1922’de İstanbul’da dünyaya geldi. Amasra’nın köklü denizci ailelerinden Eyiceoğulları’na mensuptur. Babası deniz subayı Kamil Eyice,] annesi Amasra eşrafından Hacı İbrahim Bey’in kızı Hatice Eyice’dir.
İstanbul’da Saint Louis İlkokulu’nda başlayan ilköğrenimini bir başka Fransız okulu olan Saint Joseph’te sürdürdü; ardından Galatasaray Lisesi’ne geçti; 1943'te mezun oldu. Eski eserlere ilgisi ilkokul yıllarında başladı.
İlk yazısı Reşat Ekrem Koçu’nun çıkardığı İstanbul Ansiklopedisi’nde 1949’da yayımlandı Fatih’in Çarşamba semtindeki Hırami Ahmet Paşa Mescidi hakkındaki bu ilk makaleden sonra pek çok madde yazarak ansiklopediye katkıda bulundu.
Alfons Maria Schneider ile tanıştıktan sonra onun daveti üzerine Bizans Sanatı ve arkeolojisi çalışmak niyetiyle Göttingen'e gitti.] II. Dünya Savaşı sürerken Viyana ve Berlin Üniversitelerinde Bizans tarihi okudu. Berlin’in işgali gündeme gelince Türkiye’ye döndü. Prof. Ernst Diez ile İstanbul Minareleri konulu tez hazırlayarak 1948'de İstanbul Üniversitesi Edebiyat Fakültesi Sanat Tarihi Bölümünü bitirdi. Bu tez ile, “etraflı tetkiklere mazhar olan Mısır, Mağrip ve İran minarelerinin yanı sıra Türk-Osmanlı minarelerinin de ehemmiyetli bir mevkie sahip olduklarını belirtmeyi" amaçladı. Özellikle camileri yıkılmış olmasına rağmen o dönemlerde ayakta duran birçok minareyi bu çalışma ile tespit etmiş ve bugün kendilerinden herhangi bir iz bulunmayan birçok yapı kayıt altına almıştır.
1950-1953 yılları arasında Arif Müfid Mansel tarafından yürütülen Side kazılarına katılan Eyice, 1952'de Side’nin Bizans Dönemine ait Yapıları tezi ile doktorasını tamamladı. 1954 yılında Kamran Yalgın ile evlenen Eyice, bu evliliğinden iki kız çocuğu sahibidir. 1955'te İstanbul’da Son Devir Bizans Mimarisi kitabı ile doçentliğini aldı. Aynı yıl Fransız hükümeti tarafından Legion d’Honneur Nişanı ile ödüllendirildi.
1958 yılında eşi ile birlikte Münih Üniversitesi’ne gitti. Humboldt bursunu kazanarak 13 ay boyunca derslere devam etti; boş vakitlerini kitap toplamaya ayırdı.
1959 yılında İstanbul Üniversitesi Sanat Tarihi bölümündeki görevine döndü ve Bizans tarihi üstüne dersler vermeye başladı. 1963 yılında Edebiyat Fakültesi’nde Bizans kürsüsü adıyla yeni bir kürsü kuruldu. 1964 yılında İlk Osmanlı Devrinin Dinî-İçtimaî Bir Müessesesi: Zaviyeler tezi ile profesör olan Eyice, Bizans kürsüsünde görev yaptı. 1982'de Bizans kürsüsünün başkalarıyla birleştirilip Arkeoloji ve Sanat Tarihi Bölümü’ne çevrilmesinden sonra bölümün başkanlığını üstlendi. İstanbul’daki tarihi eserler ile ilgili çalışmalarının yanı sıra Toroslar’daki ören yerlerinde arkeolojik araştırmalar yaptı; Balkan ülkelerindeki Türk eserlerini araştırıp derledi. Almanya’da, Fransa’da ve İsviçre’de çeşitli üniversitelerde dersler ; dünyanın birçok yerinde konferanslar veren Eyice, 1991 yılında emekliye ayrıldı.
Akademik çalışmalarının yanı sıra, Kültür ve Tabiat Varlıklarını Koruma Yüksek Kurulu’nda 1958-1997 arasında 38 yıl süreyle görev yapmış; 1997’de “Taksim’de camiye onay vermediği için” Kültür ve Tabiat Varlıklarını Koruma Yüksek Kurulu’ndan alınmıştır.
30.000 adet kitaptan oluşan kütüphanesinde İstanbul ve Bizans üzerine değerli kitapları vardır. Kitaplığı, İstanbul Araştırmaları Enstitüsü'nün Bizans Araştırmaları Bölümü ve Semavi Eyice Kitaplığı bölümünde görülebilir (Tepebaşı'ndaki Suna ve İnan Kıraç Vakfı İstanbul Araştırmaları Enstitüsü)
Alman Arkeoloji Enstitüleri asli üyesi ve Belçika Krallık Akademisi üyesidir. Tarihçiye 2011 yılında sanat tarihi dalında Cumhurbaşkanlığı Kültür ve Sanat Büyük Ödülü verilmiştir, ayrıca Türkiye Bilimler Akademisi Bilim ödülü sahibidir.Semavi Eyice, 28 Mayıs 2018'de tedavi gördüğü Maltepe Üniversitesi Tıp Fakültesi Eğitim ve Araştırma Hastanesi'nde organ yetmezliği nedeniyle 95 yaşında öldü. Cenazesi 30 Mayıs 2018'de Fatih Camii'nde kılınan cenaze namazının ardından Fatih Camii Haziresi'ne defnedildi.