Ateenassa vuonna 1896 pidetyt olympialaiset olivat ensimmäisiä moderneihin olympialaisiin liittyviä pelejä. Monin tavoin ne poikkesivat meidän aikanamme järjestetyistä urheilukilpailuista, koska tuolloin olympialaisten pääperinteitä ei ollut vielä muodostettu.
Olympialaisten elvyttämistä koskevaa kysymystä keskusteltiin toistuvasti eri maissa, mutta tämä ajatus toteutui vain ranskalaisen Pierre de Coubertinin ponnistelujen avulla, joka loi KOKin vuonna 1984. Alun perin oli tarkoitus järjestää tapahtuma vuonna 1900, mutta järjestäjät pelkäsivät, että kuuden vuoden odottamisen jälkeen kiinnostus peleihin katoaa ja niiden järjestäminen olisi merkityksetöntä. Valitessaan olympialaisten paikkaa harkittiin useita kaupunkeja, mutta lopulta he valitsivat Ateenan korostaakseen modernin liikkeen ja antiikin välistä yhteyttä.
Avajaiset pidettiin 6. huhtikuuta. Siihen sisältyi, kuten aikanamme, valtionpäämiehen lyhyt puhe, jossa pelit pidettiin, sekä olympialaulun esitys. Mutta on myös eroja: erityisesti vuonna 1896 ei ollut vielä urheilijoiden valaa. 241 henkilöä sai osallistua olympialaisiin, eikä heidän joukossaan ollut urheilijoita. Kilpailuja järjestettiin 9 urheilulajissa: yleisurheilu, ammunta, taiteellinen voimistelu, kreikkalais-roomalainen paini, uinti, pyöräily, painonnosto, tennis ja miekkailu.
Ateenan olympialaisissa ei ollut vielä tapana jakaa urheilijoita kansallisuuden mukaan, joten KOK: n jäsenten oli selvitettävä, mitkä neljästätoista osallistuvasta maasta voittivat mitaleja tietyssä urheilulajissa monta vuotta myöhemmin. Ongelmana oli myös se, että tenniskilpailuun osallistui sekajoukkueita. Lisäksi joillakin urheilijoilla oli yhden maan kansalaisuus, mutta he asuivat tosiasiassa toisessa. Osittain oli kuitenkin mahdollista päästä sopimukseen ja jakaa mitalit, vaikka kiistanalaisia kohtia onkin edelleen.
Kreikkalaisten suureksi valitukseksi, vuoden 1896 olympialaisissa ensimmäiset paikat olivat enimmäkseen ulkomaalaisten käytössä. Amerikkalaiset voittivat kultaa kolmikko- ja kiekkoheitokilpailuissa sekä 100 ja 400 m sprinteissä. Ranskalainen Paul Masson voitti sprinttikilpailun sekä 2000 ja 10000 m pyöräilykilpailut. Painonnostajien joukossa parhaat olivat englantilainen Launceston Elliot ja tanskalainen Viggo Jensen. Saksalaiset erottivat itsensä paini- ja voimistelukilpailuissa, ja unkarilainen Alfred Hayos voitti uintikilpailun. Kreikkalaiset voittivat mitalit voitosta juoksussa, revolverin ja armeijan kiväärin ammunnassa ja miekkailussa. Angolais-saksalainen sekajoukkue voitti tenniskilpailun.
