L'evoluzione dell' ha raggiunto una velocità senza precedenti, passando dai primi esperimenti di ragionamento logico degli anni '50 e '60 — come il General Problem Solver di Newell e Simon o i primi sistemi di dimostrazione di teoremi geometrici — a modelli generativi capaci di influenzare ogni aspetto della società moderna. Tuttavia, questa rapida crescita ha reso necessaria l'introduzione di un quadro normativo rigoroso per proteggere i diritti fondamentali dei cittadini.

In Italia, come in tutto l'Unione Europea, l'adozione di regolamenti specifici mira a classificare i sistemi di IA in base al rischio. Esistono dunque delle categorie di tecnologie che sono considerate inaccettabili e, di conseguenza, sono proibite. L'obiettivo non è fermare l'innovazione, ma evitare che l'automazione si trasformi in uno strumento di controllo sociale o di discriminazione sistematica.

Il quadro normativo e l'approccio basato sul rischio

La filosofia alla base delle nuove restrizioni non è quella di vietare l'IA in quanto tale, ma di limitarne l'uso laddove il rischio per l'essere umano superi il beneficio tecnologico. I sistemi vengono generalmente suddivisi in diverse classi di rischio: rischio minimo, rischio limitato, rischio elevato e rischio inaccettabile.

I sistemi che ricadono nell'ultima categoria sono quelli che vengono banditi dal mercato italiano ed europeo. Tali divieti riguardano principalmente l'uso di algoritmi che manipolano il comportamento umano o che sorvegliano le persone in modo invasivo e non consensuale.

Quali sistemi di IA sono proibiti?

Le applicazioni di che non potranno più essere utilizzate in Italia includono diverse categorie critiche. Ecco un'analisi dettagliata dei principali ambiti di divieto.

1. Sistemi di punteggio sociale (Social Scoring)

È vietato l'uso di sistemi di IA per valutare o classificare il comportamento sociale, l'affidabilità o le caratteristiche della personalità delle persone basandosi su dati raccolti in modo massivo. Questo include:

• La creazione di "ranking" di cittadini basati su comportamenti online o offline.
• L'attribuzione di punteggi che determinano l'accesso a servizi pubblici o privati.
• L'uso di dati comportamentali per penalizzare individui in contesti amministrativi.

2. Manipolazione subliminale e sfruttamento di vulnerabilità

L'IA non può essere utilizzata per influenzare il comportamento umano in modo subliminale, ovvero al di sotto della soglia di consapevolezza dell'utente, per indurlo a prendere decisioni che potrebbero causare danni fisici o psicologici. Questo divieto si estende a:

• Tecniche di "dark pattern" potenziate dall'IA per costringere all'acquisto o all'adesione a servizi.
• Sistemi che sfruttano deliberatamente l'età, la disabilità o le condizioni socio-economiche di una persona per manipolarne la volontà.

3. Riconoscimento biometrico in tempo reale negli spazi pubblici

L'uso di sistemi di identificazione biometrica remota (come il riconoscimento facciale) in tempo reale in spazi accessibili al pubblico è generalmente proibito, salvo eccezioni strettamente legate alla sicurezza nazionale o alla prevenzione di reati gravi e specifici. L'obiettivo è evitare la sorveglianza di massa indiscriminata.

Tabella comparativa: Sistemi Permessi vs Proibiti

Esempi concreti di applicazioni a rischio

Per comprendere meglio come queste norme impattino la realtà quotidiana e professionale, analizziamo alcuni scenari ipotetici che potrebbero configurare una violazione delle norme:

Scenario A: Il recruiting automatizzato discriminatorio

Un'azienda decide di utilizzare un'IA per scansionare i profili social dei candidati e assegnare un "punteggio di lealtà" basato sulle loro opinioni politiche o religiose. Questo sistema, se implementato per escludere a priori determinati candidati, potrebbe essere classificato come una forma di social scoring proibita.

Scenario B: L'app di shopping "ipnotica"

Un'applicazione di e-commerce utilizza frequenze sonore o pattern visivi impercettibili, generati da un'IA, per indurre l'utente a comprare prodotti di cui non ha bisogno, bypassando il suo senso critico. Questo rientrerebbe nella categoria della manipolazione subliminale.

Scenario C: Controllo degli accessi aziendali

Mentre l'uso del riconoscimento facciale per sbloccare il proprio smartphone è permesso (perché basato sul consenso e su un dispositivo privato), l'installazione di telecamere con riconoscimento facciale in ogni corridoio di un ufficio per monitorare ogni spostamento dei dipendenti potrebbe scontrarsi con le norme sulla privacy e sulla sorveglianza biometrica.

Dal passato al futuro: perché siamo arrivati a questi divieti?

Per capire l'importanza di queste restrizioni, è utile guardare alla storia dell'informatica. Già nei primi anni della ricerca sull'IA, i pionieri come McCarthy e Minsky si scontravano con limiti fondamentali. I primi sistemi, come il Geometry Theorem Prover o il General Problem Solver, operavano in "micro mondi", ovvero ambienti estremamente limitati e controllati.

Il problema principale era la mancanza di conoscenza semantica: le macchine manipolavano simboli sintattici senza comprendere realmente il significato di ciò che stavano elaborando. Oggi, con l'avvento dei Big Data e delle reti neurali profonde, l'IA non ha più questo limite di "scala" (che un tempo era ritenuto un problema di hardware e memoria), ma ha acquisito una capacità di analisi tale da poter influenzare l'agire umano su scala globale.

Se negli anni '60 il rischio era che l'IA non fosse in grado di risolvere problemi complessi, oggi il rischio è l'opposto: che l'IA sia troppo efficace nel manipolare o sorvegliare, rendendo necessari i divieti descritti in questo articolo.

Conclusioni per professionisti e utenti

Per chi opera nel settore tecnologico o gestisce un'azienda in Italia, è fondamentale implementare un approccio di "Ethics by Design". Questo significa integrare i limiti legali già nella fase di progettazione del software, evitando di sviluppare funzionalità che possano ricadere nelle categorie del rischio inaccettabile.

In sintesi, l'uso dell'IA in Italia rimarrà ampio e vantaggioso, a patto che non venga utilizzata per:

1. Declassificare gli esseri umani attraverso punteggi comportamentali.
2. Ingannare l'inconscio per ottenere vantaggi commerciali o politici.
3. Svuotare gli spazi pubblici della loro dimensione di privacy attraverso la sorveglianza biometrica costante.

L'obiettivo finale è un' che sia uno strumento di potenziamento delle capacità umane, e non un mezzo di controllo o di oppressione.