Wozniak, Musk i inni uważają, że laboratoria zajmujące się sztuczną inteligencją są uwikłane w wymykający się spod kontroli wyścig o rozwój coraz potężniejszych systemów.
Niektóre z najlepszych światowych umysłów technologicznych błagają naukowców zajmujących się sztuczną inteligencją o natychmiastowe wstrzymanie prac nad szkoleniem zaawansowanych systemów. Sygnatariusze zalecają, aby laboratoria wykorzystały przestój do wspólnego opracowania i wdrożenia protokołów bezpieczeństwa dla zaawansowanych projektów AI, które byłyby nadzorowane przez zespół niezależnych, zewnętrznych ekspertów.
W liście otwartym opublikowanym na stronie Future of Life Institute, ponad 1100 sygnatariuszy wyraziło zaniepokojenie tym, co nazywają wymykającym się spod kontroli wyścigiem w celu opracowania i wdrożenia coraz potężniejszych cyfrowych mózgów, których nie potrafimy jeszcze zrozumieć, przewidzieć, a nawet wiarygodnie kontrolować.
Czy powinniśmy pozwolić maszynom zalać nasze kanały informacyjne propagandą i nieprawdą? Czy powinniśmy zautomatyzować wszystkie zawody, w tym te dające satysfakcję? Czy powinniśmy rozwijać nie-ludzkie umysły, które w końcu mogą nas przewyższyć, przechytrzyć, odesłać do lamusa i zastąpić? Czy powinniśmy ryzykować utratę kontroli nad naszą cywilizacją?
Ostrzeżenie brzmi jak pożywka dla autorów s-f lub coś, co kilka lat temu mogłoby posłużyć za kanwę scenariusza kolejnego odcinka Black Mirror, jednak ci, którzy śledzą nowinki technologiczne, byli ostatnio świadkami, jak coraz bardziej zawansowane systemy SI uruchamiane były jeden po drugim. Jest to w równej mierze fascynujące, co niepokojące.
Kolektyw wierzy, że potężne systemy AI powinny być rozwijane dopiero wtedy, gdy lepiej zrozumiemy ich możliwości i będziemy pewni, że zalety przeważają nad wadami.
W związku z tym grupa wzywa wszystkie laboratoria AI do wstrzymania szkoleń na systemach zdolniejszych niż GPT-4 na minimum sześć miesięcy. Przerwa ta powinna być przejrzysta i potwierdzona, z udziałem wszystkich znaczących graczy. Jeśli szybkie wdrożenie wstrzymania nie jest możliwe, grupa zaleca rządom interwencję i egzekwowanie tymczasowego zakazu.
Warto powtórzyć, że grupa nie prosi o wstrzymanie całego rozwoju SI, ale po prostu o przerwę od karkołomnego tempa, w jakim opracowuje się i wdraża najnowocześniejsze, nieprzewidywalne systemy bez pełnego zrozumienia wszystkich konsekwencji.
List otwarty podpisało już kilka wysoko postawionych umysłów technologicznych, w tym laureat nagrody Turinga Yoshua Bengio, współzałożyciel Apple Steve Wozniak, Elon Musk, współzałożyciel Pinterest Evan Sharp, współzałożyciel Ripple Chris Larsen i Jaan Tallinn, współzałożyciel Skype oraz pisarz Yuval Noah Harari. Ci, którzy zgadzają się z przesłaniem, są zaproszeni do dodania swojego podpisu jako publicznego wyrażenia wsparcia.