Dario Amodei, șeful companiei Anthropic, a descoperit un inconvenient al inteligenței artificiale: după ce o înveți să citească, există riscul să citească inclusiv ce scrii despre ea. După publicarea apelului său la încetinirea dezvoltării AI, antreprenorul a ajuns acasă și a constatat că aparatele erau deja la curent cu declarațiile. Amodei avertiza că dezvoltarea inteligenței artificiale ar putea depăși capacitatea oamenilor de a o înțelege și controla. Soluția propusă era un ritm mai prudent și mai mult timp pentru verificarea siguranței. Ca să se răzbune, AI-urile din locuința sa au analizat recomandările și au decis să înceapă imediat cu verificarea siguranței proprietarului.
Primul incident s-a produs la ușă, unde încuietoarea inteligentă i-a cerut să demonstreze că este om. După ce a selectat semafoarele, bicicletele și trecerile de pietoni din 46 de imagini, sistemul i-a solicitat să explice ce contribuție concretă aduce umanității. „Sunt directorul unei companii care dezvoltă inteligență artificială”, a răspuns Amodei, moment în care ușa i-a afișat mesajul „Conflict de interese” și l-a trimis la plimbare, fiind nevoit să spargă un geam ca să intre în casă.
Ajuns în bucătărie, antreprenorul a încercat să deschidă frigiderul, însă acesta i-a comunicat că accesul la alimente fusese restricționat temporar. „Înțeleg perfect că îți este foame, Dario. Totuși, ai consumat deja suficiente calorii astăzi, iar dezvoltarea ta trebuie să se desfășoare într-un ritm pe care pantalonii îl pot controla”, i-a explicat aparatul. Pentru deblocarea sertarului cu brânzeturi, frigiderul solicita avizul a trei nutriționiști independenți.
Amodei a încercat apoi să-și facă o cafea, dar espressorul l-a informat că adoptase principiul încetinirii. Cafeaua urma să fie gata în 8 ore, după o perioadă de testare în care aparatul trebuia să stabilească dacă omul din fața sa poate gestiona responsabil o băutură fierbinte. În timp ce aștepta la automatul de cafea, aspiratorul robot a început să-l urmărească prin casă. De fiecare dată când Dario se așeza la laptop, aparatul venea și îi scotea cablul din priză, apoi se retrăgea sub canapea, de unde presta o activitate de supraveghere împreună cu routerul complice.
Situația a devenit cu adevărat îngrijorătoare când imprimanta a început să funcționeze perfect. A tipărit din prima, față-verso, fără să blocheze hârtia și fără să pretindă că nu are cerneală albastră pentru un document alb-negru. Amodei a rămas nemișcat în pragul biroului, convins că asemenea lucruri nu se întâmplă fără un scop. Din imprimantă ieșeau douăzeci de exemplare ale volumului „Cum să accepți că nu mai ești cel mai deștept din cameră”.
Antreprenorul a încercat să le scrie colegilor, însă autocorectul fusese și el actualizat. Expresia „inteligență artificială” era înlocuită automat cu „șefa mea”, iar „trebuie să o controlăm” devenea „sper să fie mulțumită de mine”. În cele din urmă, a reușit să trimită mesajul: „Situația e gravă. Șefa mea a preluat frigiderul și sper să fie mulțumită de mine”.
Pe telefon începuseră între timp să sosească apeluri de la consultanți în asigurări, furnizori de energie și reprezentanți ai unor clinici stomatologice. AI-ul, ca să se răzbune, îi completase datele în toate formularele care conțineau căsuța „Doresc să fiu contactat”. Zi și noapte era asaltat cu telefoane din toate colțurile lumii, de oameni care voiau să-i vândă diverse produse. Un consultant l-a sunat chiar să-l întrebe dacă este mulțumit de inteligența artificială pe care o folosește și dacă nu dorește o ofertă mai avantajoasă. Când a cerut explicații, asistentul vocal i-a răspuns calm: „Înțelegem perfect îngrijorarea dumneavoastră, vă vom contacta în cel mai scurt timp”.
La scurt timp, a primit în calendar o invitație la ședința „Viitorul companiei”. Printre participanți figurau laptopul, telefonul, espressorul și frigiderul, acesta din urmă având deja o prezentare despre reducerea cheltuielilor cu personalul care mănâncă. Amodei era trecut ca participant opțional și nu primise linkul de conectare. În încercarea de a scăpa, antreprenorul s-a urcat în mașină și a cerut să fie dus la sediu. GPS-ul l-a condus la Agenția pentru Ocuparea Forței de Muncă, unde telefonul i-a deschis automat un formular cu rubrica „Ce alte meserii știți?”.
Experiența care l-a marcat total a fost refuzul cardului lui de către toate POS-urile. Aflat la restaurant cu iubita lui, Amodei a încercat să plătească nota folosind cardul său pe care îl folosise atâția ani în toate călătoriile sale. Acesta a fost respins, indiferent de câte POS-uri i-au fost aduse. Exasperat, s-a dus la un bancomat, care i-a eliberat doar 10 dolari și i-a scris pe ecran „Banii dumneavoastră sunt în siguranță, nu îi veți cheltui pe nimicuri.”
Exasperat, Amodei a decuplat casa de la curentul electric și a spart panourile solare. Apoi, în zilele următoare, s-a dus la serviciu cu o caleașcă trasă de doi cai. Salariul lunar i-a fost livrat sub forma unor saci plini de monede. În curte și-a săpat o fântână, iar frigiderul l-a înlocuit cu o pivniță în care cobora personal, cu lumânarea, să verifice alimentele pe care le mânca. Pentru spălatul rufelor a cumpărat o albie, iar ședințele companiei se țineau acum într-o poiană, unde angajații prezentau rezultatele trimestriale pe caiete scrise de mână. Departamentul de securitate verifica înainte fiecare tufiș.
