“C’è così tanta bontà che questo tipo di tecnologia può generare, così tanta sofferenza che può prevenire, e poi c’è l’aspetto di quanta distruzione può causare e quanto può andare perso in quel processo”, dice Kim, che è stato uno dei primi dipendenti di Google e ha lavorato anche alle Nazioni Unite e come assistente di Paul Graham, cofondatore dell’incubatore di startup Y Combinator. “Non credo che abbiamo tutte le risposte. Dobbiamo solo essere molto pro-umani e dare alle persone i mezzi fondamentali per pensare a questa tecnologia.
La mostra temporanea è finanziata fino a maggio da un donatore anonimo, ma lo spazio mostra l’influenza di numerosi fondatori e pensatori della tecnologia, da un tweet incorniciato sull’intelligenza artificiale e l’effettivo altruismo del cofondatore di Facebook Dustin Moskovitz alla vasca piena di pasta vicino alla mostra Entrata. Quest’ultimo è un riferimento alle idee di Holden Karnofsky, un cofondatore con Moskovitz di Open Philanthropy, che ha finanziato OpenAI e altri lavori riguardanti il percorso futuro dell’IA. Karnofsky ha sostenuto che stiamo vivendo in quello che potrebbe essere il secolo più importante della storia umana, prima del potenziale arrivo dell’IA trasformazionale che chiama Processo per l’automazione dell’avanzamento scientifico e tecnologico, o PASTA.
I tentativi di prevedere il lontano futuro dell’intelligenza artificiale si sono recentemente concentrati su ChatGPT e sulla tecnologia correlata, come la nuova interfaccia di ricerca di Microsoft, nonostante i suoi limiti ben documentati e il valore ancora poco chiaro. Gli imprenditori che scommettono sulla tecnologia stanno facendo affermazioni roboanti su ciò che la loro tecnologia è in grado di fare. La scorsa settimana, il CEO di OpenAI ha pubblicato un post sul blog su come l’azienda sta “pianificando l’AGI”.
Poco dopo, la Federal Trade Commission degli Stati Uniti, un’agenzia che protegge da pratiche commerciali ingannevoli, ha messo in guardia i marketer dal fare false affermazioni su ciò che la loro tecnologia è in grado di fare. L’avvocato della FTC Michael Atleson ha scritto nel suo post sul blog che “non viviamo ancora nel regno della fantascienza, dove i computer possono generalmente fare previsioni affidabili sul comportamento umano”.
Molti ricercatori di intelligenza artificiale ritengono che, sebbene i sistemi di intelligenza artificiale generativa come ChatGPT possano essere impressionanti, la tecnologia non sia degna di essere accreditata con intelligenza, perché l’algoritmo ripete e rimescola solo schemi dai suoi dati di addestramento.
In questa prospettiva, è meglio pensare all’intelligenza artificiale ristretta di oggi come più simile a una calcolatrice o un tostapane, non a un essere senziente. Alcuni esperti di etica dell’IA ritengono che attribuire caratteristiche umane come la sensibilità alla tecnologia possa distrarre dalle conversazioni su altre forme di automazione dannosa come la tecnologia di sorveglianza esportata da aziende sia in nazioni democratiche che autoritarie.
Sto lavorando per procurarmi delle scale a pioli così quando i bambini entrano possono vedere gli occhi degli Spambot.
Audrey Kim, curatrice, Museo del disallineamento
Kim afferma di aver acquisito familiarità con l’apprendimento automatico per la prima volta come assunzione anticipata presso la startup di guida autonoma Cruise, successivamente acquisita da General Motors. Ha iniziato a pensare a come l’IA che funziona correttamente potrebbe eliminare molte morti e sofferenze inutili, ma anche che se la tecnologia non funziona potrebbe presentare un enorme rischio per le vite umane.
Oltre a mostrare l’arte dell’IA e l’arte sull’IA, il Misalignment Museum prevede di ospitare proiezioni di film che esplorano il potenziale più oscuro della tecnologia, come The Terminator, Ex Machina, Her e Theatre of Thought, un documentario del 2022 sulle neuroscienze e l’IA diretto da Herzog.
Kim dice che trova improbabile che l’AGI uccida la maggior parte dell’umanità, nonostante il tema della sua mostra, ma che le persone dovrebbero pensare agli impatti dell’intelligenza artificiale che stanno già apparendo, come educatori ed editori letterari che tentano di analizzare la differenza tra testo generato dall’uomo e generato dall’IA, o le discussioni di WIRED su come l’IA generativa potrebbe o dovrebbe aiutare i giornalisti.
“L’intelligenza artificiale influenzerà tutti noi, quindi per me si tratta di come convincere quante più persone inizino a pensarci e a formarsi le proprie opinioni”, afferma Kim. Il Museo del disallineamento è aperto al pubblico giovedì, venerdì e sabato. Ha in programma di ospitare tour per gruppi scolastici per esaminare le mostre e sfogliare una biblioteca di materiale di lettura sulle opportunità e sui potenziali danni dell’intelligenza artificiale.
“Sto lavorando per procurarmi delle scale a pioli così quando i bambini entrano possono vedere gli occhi degli Spambot”, dice Kim.
Aggiornato il 3-3-2023, 13:50 EST: Kim dice che il suo cane Murphy fa amicizia con i corvi, non con i corvi.
