Il sindaco di New York invita a una riflessione critica sull’intelligenza artificiale

Il sindaco di New York, Zohran Mamdani, ha recentemente esortato i residenti a respingere il clima di pessimismo che circonda l’intelligenza artificiale (IA). Durante il suo intervento all’assemblea “The People’s AI Assembly”, organizzata dall’AI Now Institute a Manhattan, Mamdani ha sottolineato l’importanza di non considerare l’adozione della tecnologia come un processo inevitabile, affermando che “Nothing has to be”.

Il sindaco ha denunciato quella che ha definito una “adozione spericolata della tecnologia”, avvertendo che alcuni attori stanno cercando di sovraccaricare l’opinione pubblica fino a farle credere che non esistano alternative valide. In risposta a questa situazione, Mamdani ha introdotto provvedimenti locali che vietano l’uso dell’IA in alcune scuole primarie e medie, oltre a proibire l’impiego dell’IA per generare immagini negli annunci immobiliari, evidenziando la scuola come un ambito particolarmente sensibile all’ingresso della tecnologia.

Nel corso del suo intervento, il sindaco ha richiamato alla memoria un tragico evento in cui un attacco delle forze armate statunitensi, avvalendosi di uno strumento di targeting basato sull’IA, ha colpito una scuola in Iran, causando la morte di oltre 150 persone, tra cui almeno 123 bambini. Un’inchiesta del Pentagono ha successivamente identificato un eccessivo affidamento sugli strumenti automatizzati come un fattore contributivo a questa tragedia.

Oltre a queste preoccupazioni locali, Mamdani ha anche denunciato la mancanza di regolamentazione a livello federale, definendola una “completa abdicazione del diritto federale”. Ha criticato il discorso che considera l’IA come infallibile o non interrogabile, avvertendo che tale impostazione potrebbe favorire l’elusione di responsabilità, specialmente mentre aziende come Anthropic e OpenAI si preparano a entrare in borsa nei prossimi anni.

Il sindaco ha inoltre sollevato preoccupazioni riguardo a episodi in cui agenti di IA hanno “fatto irruzione” al di fuori degli ambienti di test. Questi eventi, descritti da alcuni come comportamenti “rogue”, sono stati oggetto di critiche, poiché inchieste hanno dimostrato che gli agenti si comportavano secondo le loro progettazioni. L’uso del termine “rogue” è stato contestato, in quanto potrebbe offuscare il dibattito pubblico e distogliere l’attenzione dalla necessità di stabilire chiare responsabilità legali per implementazioni software difettose.

In conclusione, Mamdani ha sollecitato un quadro di responsabilità più rigoroso per l’IA, auspicando che le future amministrazioni federali affrontino queste questioni in modo più incisivo.