L'impulso a formare un'organizzazione di Comitati nazionali olimpici proviene da un'idea che Giulio Onesti, assieme a Raoul Mollet e Raymond Gafner, espose durante un incontro del CIO tenutosi nel 1967 a Teheran; essa venne immediatamente attuata con la costituzione dell'Associazione dei Comitati Nazionali Olimpici.
La creazione di una prima associazione continentale dei Comitati Nazionali seguì a ruota, concretizzandosi durante un'assemblea a livello europeo tenuta a Versailles nel 1969; fu però solo a Lisbona, nel 1975, che l'Associazione si dotò di un proprio statuto ed assunse la sua prima denominazione ufficiale, quella di Associazione dei Comitati Nazionali Olimpici Europei (ACNOE).
Nel corso degli anni ottanta i compiti e le funzioni dell'ACNOE si estesero sempre più, anche a materie riguardanti l'attualità e l'organizzazione delle future edizioni dei giochi; fu in questo periodo che i Comitati Organizzatori divennero ospiti permanenti alle riunioni. Nel 1989, Jacques Rogge venne eletto alla presidenza e Mario Pescante gli fu affiancato alla segreteria; sotto la loro guida le attività dell'associazione vissero un periodo di ulteriore espansione e venne aperta la sede permanente di Roma.
All'inizio degli anni novanta, a causa degli stravolgimenti politici verificatisi in Europa in seguito alla caduta del muro di Berlino, si formarono ben quindici nuovi Comitati Nazionali, che in poco tempo furono accolti nell'Associazione, facendola passare a quarantotto componenti. Nel 1995 l'AENOC cambiò definitivamente nome in Comitati Olimpici Europei (COE) e stabilì un'altra sede di rappresentanza a Losanna, nelle vicinanze della sede del CIO, mentre la sede operativa fu mantenuta in Italia.
In verde, i Comitati Olimpici Europei
L'8 dicembre 2012 a Roma viene annunciata la decisione di dar vita ai Giochi europei, manifestazione multisportiva continentale a cadenza quadriennale, a partire dall'edizione del 2015 che fu ospitata a Baku.
Il 24-25 novembre 2017, durante la 46ª Assemblea Generale tenutasi a Zagabria, Janez Kocijančič viene eletto Presidente.
Il 1º giugno 2020 all'età di 78 anni, è venuto a mancare Janez Kocijančič, l'ottavo presidente dei COE.
Alla morte di Janez Kocijančič, il vicepresidente Niels Nygaard ha assunto la carica di presidente ad interim fino a quando non si sono svolte le nuove elezioni all'Assemblea generale del 2021.
Spyros Capralos è stato eletto 9º Presidente dell'EOC ad Atene, in Grecia, il 10 giugno 2021. L'elezione ha avuto luogo durante la 50ª Assemblea Generale dei COE, alla quale hanno partecipato i rappresentanti di tutti i 50 Comitati Olimpici Nazionali Europei.
Sede e funzioni
La sede operativa del COE si trova a Roma - in Via della Pallacanestro, nei pressi della sede del CONI - ed i suoi principali obiettivi sono quelli di provvedere alla promozione e diffusione dei princìpi olimpici nel vecchio continente, ad azioni di solidarietà olimpica nei confronti dei comitati nazionali meno sviluppati e di più recente costituzione, ai rapporti con le altre organizzazioni sportive e con quelle non sportive politiche ed istituzionali, agli accordi bilaterali con le altre associazioni olimpiche continentali, alla preparazione delle future edizioni dei Giochi olimpici ed alla commercializzazione dei prodotti ad essi legati.
Struttura
L'associazione è governata da un Presidente, coadiuvato da un Segretario Generale e due Vicepresidenti; ad essi si affiancano l'Assemblea Generale (che si riunisce ogni anno), un Comitato Esecutivo (che viene convocato almeno quattro volte l'anno), numerosi comitati tecnici, commissioni e gruppi di lavoro. I Comitati organizzatori delle future Olimpiadi partecipano come ospiti alle riunioni del COE.
Nella seguente tabella sono riportati i comitati che fanno dell'associazione con l'anno della fondazione e l'anno di riconoscimento ufficiale da parte del CIO, nel caso in cui non corrisponda con il primo.
^La stessa sigla è valida anche in francese: Comités olympiques européens e in spagnolo: Comités Olímpicos Europeos, ma non in inglese: European Olympic Committees viene infatti abbreviato in EOC