Intelligenza artificiale e’ una minaccia esistenziale?

Negli ultimi mesi, dirigenti e ricercatori sulla sicurezza dell’IA hanno offerto previsioni, soprannominate ” P(doom) “, sulla probabilità che l’IA provochi una catastrofe su larga scala.
Le preoccupazioni hanno raggiunto il picco nel maggio 2023, quando l’organizzazione no profit di ricerca e difesa Center for AI Safety ha rilasciato una dichiarazione di una frase : “Mitigare il rischio di estinzione dell’IA dovrebbe essere una priorità globale insieme ad altri rischi su scala sociale, come le pandemie e la guerra . ”

La dichiarazione è stata firmata da molti attori chiave del settore, inclusi i leader di OpenAI, e Anthropic, nonché due dei cosiddetti “padrini” dell’IA: Geoffrey Hinton e Yoshua Bengio .

Potresti chiedere come dovrebbero svolgersi tali paure esistenziali. Uno scenario famoso è l’ esperimento mentale del ” massimizzatore di graffette ” articolato dal filosofo di Oxford Nick Bostrom . L’idea è che un sistema di incaricato di produrre il maggior numero possibile di graffette potrebbe fare di tutto per trovare materie prime, come distruggere fabbriche e causare incidenti automobilistici.

Una variazione meno dispendiosa in termini di risorse ha un’intelligenza artificiale incaricata di procurare una prenotazione a un famoso ristorante che chiude le reti cellulari e i semafori per impedire ad altri clienti di ottenere un tavolo.

Forniture per ufficio o cena, l’idea di base è la stessa: l’IA sta rapidamente diventando un’intelligenza aliena, brava a raggiungere obiettivi ma pericolosa perché non si allineerà necessariamente con i valori morali dei suoi creatori. E, nella sua versione più estrema, questo argomento si trasforma in esplicite ansie riguardo alle IA che schiavizzano o distruggono la razza umana .