Ensimmäisten Ateenan olympialaisten menestyksen jälkeen olympiakomitea, jota johtaa Pierre de Coubertin, päätti tehdä kilpailusta säännöllisen. Seuraava eri maiden urheilijoiden kokous pidettiin Pariisissa vuonna 1900.
Toiset olympialaiset päätettiin järjestää samanaikaisesti Pariisin maailmannäyttelyn kanssa houkutellakseen lisää katsojia niihin. Nämä kilpailut olivat kuitenkin hyvin erilaisia kuin nykyiset. Pelejä on pidetty useita kuukausia, ja historioitsijat keskustelevat edelleen siitä, mikä on tarkka luettelo tämän olympialaisten voittajista ja kilpailuista. Näiden pelien organisatorista tasoa ei myöskään voida verrata myöhempiin aikoihin. Ulkomaisille urheilijoille ei vielä ollut erityisiä ratkaisuja, samoin kuin pelien avajaiset ja päättäjäiset.
Kilpailuun lähti urheilijoita 24 maasta. 12 valtiota oli edustettuna peleissä ensimmäistä kertaa, mukaan lukien Venäjän valtakunta. Kilpailussa ei kuitenkaan ollut urheilijoita Afrikasta ja Aasian maista. Poikkeuksena oli urheilija Intiasta, joka oli silloin osa Britannian imperiumia.
Mestaruuskilpailut pidettiin 20 urheilulajilla. Heidän joukossaan oli niitä, jotka myöhemmin suljettiin kilpailun ulkopuolelle pelien puitteissa, kuten Baskimaan pelota.
Ensimmäistä kertaa naiset osallistuivat peleihin, mikä oli järjestäjien tuolloin rohkea päätös. Erityisesti pidettiin erillinen naisten golf-turnaus. Kriketissä he pelasivat tasa-arvoa miesten kanssa, ja tenniskilpailuissa kilpailivat sekä yksinäiset naiset että sekanelinpelit.
Ensimmäisen sijan mitalien joukossa oli urheilukilpailujen isäntä Ranska. Menestyneimmät olivat ranskalaiset soutajat, ampumismiehet ja miekkailijat. Toinen oli Yhdysvaltojen joukkue, jo tuolloin saamassa urheiluvoiman aseman. Tämän maan urheilijat saivat eniten mitaleja. Myös golfarit, sekä miehet että naiset, menestyivät menestyksekkäästi.
Venäjän valtakunnan urheilijat olivat edustettuina vain kahdella alalla, miekkailussa ja hevosurheilussa, eivätkä kyenneet voittamaan mitalia.