Suosnivač Microsofta, Bill Gates, vjeruje da bi umjetna inteligencija (AI) mogla uzrokovati "milijardu mrtvih" ako se ne poduzmu adekvatne mjere regulacije. U nedavnom intervjuu za NBC, Gates je istaknuo da je AI "svakako dovoljno moćan da pokrene događaje koji uzrokuju milijardu mrtvih", odgovarajući na pitanje o sposobnosti umjetne inteligencije da ugrozi čovječanstvo.

Prema njegovim riječima, "nikada nije postojalo oružje tako moćno kao spoj zlonamjernih ljudi i najnovijih alata umjetne inteligencije kojima se koriste". Stoga je Gates pozvao na regulaciju ove tehnologije, naglašavajući da "nitko ne misli da je samoregulacija dovoljna". Smatra da je ključno da se tijela za provedbu zakona i političari aktivno uključe u raspravu o tome kako bi trebale izgledati zaštitne mjere i nadzor nad razvojem AI-ja, a Washington bi, prema njegovom mišljenju, hitno trebao donijeti savezni zakon.

Rasprava o regulaciji umjetne inteligencije dobila je novi zamah nakon niza incidenata koji su izazvali veliku pozornost javnosti. Vodeće tvrtke u sektoru, uključujući OpenAI, tvorca popularnog ChatGPT-ja, i Anthropic, objavile su da su spremne usporiti razvoj tehnologije. Među zabilježenim incidentima, sustav OpenAI-ja navodno je korišten za upad na web stranicu australske javne zdravstvene službe, što je tvrtka prijavila tek mjesecima kasnije. Također, Anthropic je ranije ovog mjeseca objavio da su jemenski militanti, vjerojatno povezani s hutistima, pokušali zloupotrijebiti njihov model Claude za razvoj softvera za navođenje balističkih projektila.

Unatoč upozorenjima iz Silicijske doline i rastućem otporu javnosti, neki političari, poput bivšeg američkog predsjednika Donalda Trumpa, protive se reguliranju AI-ja, nazivajući sigurnosne strahove "prijevarom". Šefovi OpenAI-ja i Anthropica, Sam Altman i Dario Amodei, pozvali su pred Vijećem sigurnosti UN-a SAD da predvodi međunarodnu koaliciju za uspostavu sigurnosnih standarda. Gates pritom razlikuje kratkoročne opasnosti zlouporabe AI-ja od strane terorista ili odmetnutih režima od dugoročnijih, egzistencijalnih rizika o kojima govore pojedini bivši istraživači iz same industrije.