Nawet jeśli ryzyko śmierci cywilizacji ludzkiej w wyniku powstania maszyn wynosi jedno do pięciu, technologia sztucznej inteligencji jest tego warta, twierdzi Elon Musk. Przemawiając na Abundance Summit w Amsterdamie, doprecyzował swoje wcześniejsze przewidywania dotyczące końca świata i zgodził się z opinią Geoffreya Hintona, byłego szefa badań AI w Google, który uważa, że sztuczna inteligencja może stać się świadoma w nadchodzących latach i będzie chciała pozbyć się ludzi.

Jesienią ubiegłego roku Musk powiedział, że technologia sztucznej inteligencji stanie się zagrożeniem z prawdopodobieństwem mniejszym niż zerowe. Ale wtedy nie powiedział, że uważa to za niebezpieczne dla samego istnienia ludzkości. Na szczycie przewidział, że w 2030 r. inteligencja cyfrowa przewyższy całą zagregowaną inteligencję ludzką. I chociaż Musk dostrzega korzyści płynące z rozwoju sztucznej inteligencji, nie można ignorować zagrożeń, jakie stwarza jej rozwój.

„Wierzę, że istnieje możliwość, że (AI) zakończy ludzkość” – powiedział Elon Musk. „Prawdopodobnie zgodziłbym się z Geoffem Hintonem, że jest to około 10–20%”. Dodał jednak, że „prawdopodobny scenariusz optymistyczny przeważa nad pesymistycznym”. Jak dokładnie Musk obliczył ryzyko, nie powiedział.

Kilka tygodni temu Musk porównał rozwój uniwersalnej sztucznej inteligencji do wychowywania dziecka - genialnego dziecka, superinteligentnego. Dlatego ogromne znaczenie ma sposób, w jaki jest wychowywane. On sam radzi obdarzyć taką sztuczną inteligencję maksymalną chęcią poszukiwania prawdy i miłością do wiedzy.

„Nie zmuszaj jej do kłamstwa, nawet jeśli prawda jest nieprzyjemna” – powiedział Musk. „To jest bardzo ważne. Nie zmuszaj sztucznej inteligencji do kłamstwa.” W końcu, jeśli nauczy się oszukiwać, z łatwością ominie wszystkie mechanizmy obronne, które dana osoba zbuduje przeciwko niej.

Opinię Masky’ego poparł także Roman Yampolsky, specjalista ds. bezpieczeństwa AI z Uniwersytetu w Louisville (USA). Sztuczna inteligencja rzeczywiście może stanowić zagrożenie dla istnienia ludzkości, ale Musk jest zbyt konserwatywny w swoich ocenach. Jego zdaniem realne prawdopodobieństwo śmierci jest wyższe. Sztuczna inteligencja jest w stanie stworzyć nową broń biologiczną lub spowodować upadek społeczeństwa poprzez niszczenie instytucji społecznych za pomocą cyberataków i broni nuklearnej.

„The New York Times” nazwał wyliczenie współczynnika zgonów „nową, ponurą statystyką, która ogarnęła Dolinę Krzemową”. Eksperci konkurują ze sobą w przewidywaniach, sądząc po tym, które AI pójdzie na całość z szansą od 5% do 50%. Yampolsky jest bardziej kategoryczny niż pozostali - jego ocena to 99,999999%.

„Nie wiem, dlaczego uważa, że w ogóle warto rozwijać tę technologię” – dodał Yampolsky. „Jeśli martwi się, że konkurenci nie dotrą tam pierwsi, nie ma to znaczenia, ponieważ niekontrolowana superinteligencja jest równie niebezpieczna, niezależnie od tego, kto ją stworzył”.

Niedawno startup Elona Muska, xAI, otworzył kod źródłowy chatbota Grok na GitHubie. Umożliwi to badaczom i programistom korzystanie z niego oraz wprowadzanie zmian, wpływając tym samym na sposób, w jaki xAI aktualizuje Grok w przyszłości. Musk był zdeklarowanym krytykiem firm, które nie ujawniają kodu źródłowego swoich modeli sztucznej inteligencji, takich jak OpenAI.