Cosa l’IA non è: guida critica per docenti e studenti Intelligenza Artificiale

Collana STEM & Intelligenza Artificiale a Scuola

Modulo trasversale · Alfabetizzazione critica all’IA

Cosa l’IA non è: guida critica per docenti e studenti Intelligenza Artificiale

Sei equivoci comuni da correggere prima di regolamentare, insegnare o utilizzare i sistemi di IA

A cura di G. Ianniello – Referente per la Transizione Digitale, la Trasparenza e la Protezione dei Dati

Anno scolastico 2026/2027

1. Perché serve un modulo su “cosa non è l’IA”

Le pubblicazioni di questa collana affrontano l’intelligenza artificiale a partire da ciò che essa fa, prevede, obbliga o consente, secondo il quadro tracciato dal Regolamento (UE) 2024/1689 (AI Act) e dal GDPR. Prima ancora di descrivere ruoli, obblighi e percorsi didattici, tuttavia, è utile fermarsi su un passaggio preliminare troppo spesso dato per scontato: chiarire cosa l’IA non è.

Le rappresentazioni distorte dell’intelligenza artificiale — alimentate da narrazioni mediatiche, marketing commerciale e antropomorfizzazioni linguistiche non innocue (“il sistema capisce”, “il modello pensa”, “l’IA decide”) — non sono un problema puramente lessicale. Producono conseguenze concrete: inducono un’eccessiva fiducia negli output di un sistema, in Italia come altrove disorientano l’utente sull’attribuzione delle responsabilità che l’AI Act assegna con precisione a provider e deployer, e rendono più difficile per il personale scolastico e per gli studenti l’esercizio di un pensiero critico realmente informato.

Nota d’uso: questo modulo è pensato per essere richiamato, con i necessari adattamenti di registro, sia nelle pubblicazioni tecnico-normative rivolte a Dirigenti Scolastici e DPO sia in quelle pedagogiche rivolte a docenti e studenti. Il paragrafo 8 indica come calibrarlo per i due pubblici.

2. L’IA non è “intelligenza” nel senso in cui lo è quella umana

Il termine “intelligenza artificiale” è esso stesso una fonte primaria di equivoco. I sistemi oggi definiti IA, compresi i modelli linguistici di grandi dimensioni (Large Language Model, LLM) alla base dei chatbot generativi, non comprendono il significato di ciò che elaborano nel senso in cui lo fa una mente umana: eseguono operazioni matematiche su rappresentazioni numeriche del linguaggio, delle immagini o di altri dati, individuando pattern statistici appresi durante l’addestramento su grandi quantità di esempi.

Un modello linguistico non possiede intenzioni, non ha coscienza di sé, non prova comprensione né convinzione rispetto a ciò che genera. Quando produce una risposta corretta e ben argomentata, non lo fa perché “sa” che è corretta, ma perché quella sequenza di parole risulta statisticamente plausibile rispetto al contesto e ai dati di addestramento. Questa distinzione, tutt’altro che accademica, spiega anche perché uno stesso sistema possa produrre, con analoga sicurezza espositiva, sia un’informazione accurata sia un’informazione del tutto inventata (il fenomeno delle cosiddette “allucinazioni”).

3. L’IA non è magia, né un oracolo onnisciente

Un secondo equivoco diffuso attribuisce ai sistemi di IA una conoscenza aggiornata, completa e verificata del mondo. In realtà, un modello generativo riflette i dati, spesso non recentissimi e non esenti da errori, su cui è stato addestrato, e non dispone di un accesso diretto e verificato alla realtà, salvo quando è esplicitamente collegato a strumenti esterni di ricerca o consultazione.

Ne derivano due conseguenze pratiche particolarmente rilevanti in ambito scolastico:

• l’output di un sistema di IA non va mai considerato automaticamente attendibile, ma richiede verifica su fonti autorevoli e indipendenti — un principio che, come illustrato nelle pubblicazioni pedagogiche di questa collana, va insegnato esplicitamente agli studenti attraverso esercizi di fact-checking;
• la qualità di una risposta dipende in larga misura dalla formulazione della richiesta (il cosiddetto prompt) e dal contesto fornito, non da una capacità di ragionamento autonomo e stabile del sistema.

4. L’IA non è neutrale né oggettiva

Un sistema di IA non produce risultati “puri”, sganciati da ogni condizionamento: riflette necessariamente le caratteristiche, i limiti e talvolta i pregiudizi presenti nei dati con cui è stato addestrato, oltre alle scelte progettuali di chi lo ha sviluppato. Un modello addestrato su dati non rappresentativi di determinati gruppi, contesti o punti di vista produrrà, con elevata probabilità, risultati sistematicamente distorti a loro danno: è il fenomeno noto come bias algoritmico.

È proprio questa mancanza di neutralità intrinseca a giustificare, sul piano normativo, la particolare cautela che l’AI Act riserva ai sistemi impiegati nel settore dell’istruzione (Allegato III) e il divieto assoluto, rilevante per gli ambienti scolastici, dei sistemi di scoring sociale e di riconoscimento delle emozioni (art. 5): non perché l’IA sia intrinsecamente malevola, ma perché la sua apparente oggettività può mascherare, anziché eliminare, condizionamenti e distorsioni difficili da individuare a valle.

5. L’IA non è infallibile

Nessun sistema di IA attualmente disponibile garantisce un tasso di errore pari a zero, anche quando la sua interfaccia comunica le risposte con un tono sicuro e assertivo che nulla ha a che vedere con l’effettiva affidabilità del contenuto. Questa consapevolezza è alla base, sul piano regolatorio, dell’obbligo di sorveglianza umana (human oversight) previsto dall’art. 26 dell’AI Act per i sistemi ad alto rischio, e del diritto, sancito dall’art. 22 del GDPR, a non essere sottoposti a una decisione basata unicamente su un trattamento automatizzato quando questa produca effetti giuridici o incida in modo analogamente significativo sulla persona.

In ambito scolastico, questo si traduce in una regola semplice da trasmettere sia al personale sia agli studenti: qualunque output di un sistema di IA — un voto suggerito, un testo generato, una classificazione — resta un suggerimento da sottoporre al vaglio critico di una persona competente, mai un verdetto da accettare acriticamente.

6. L’IA non è un soggetto giuridico né un responsabile autonomo

Un errore concettuale ricorrente, spesso indotto da un linguaggio disinvolto (“l’IA ha deciso”, “è colpa dell’algoritmo”), consiste nell’attribuire al sistema stesso una qualche forma di responsabilità autonoma. Il quadro giuridico europeo, sia con l’AI Act sia con il GDPR, non riconosce all’IA alcuna soggettività: la responsabilità per lo sviluppo, l’immissione sul mercato e l’utilizzo di un sistema di IA ricade sempre su persone fisiche o giuridiche individuabili, secondo i ruoli di provider e deployer descritti in dettaglio nella pubblicazione tecnico-normativa di questa collana.

Per l’istituto scolastico questo significa che l’adozione di uno strumento di IA — per la correzione di elaborati, per la personalizzazione dei percorsi di apprendimento, per il monitoraggio durante le prove — non trasferisce la responsabilità educativa e valutativa dal docente e dall’istituto al sistema stesso: la responsabilità resta, e deve restare, in capo alle persone.

7. L’IA non è un’unica cosa

Infine, un equivoco più sottile ma diffuso è quello di parlare di “l’IA” come di un’entità unitaria, mentre l’etichetta comprende famiglie di tecnologie molto diverse fra loro per funzionamento, scopo e livello di rischio: sistemi di classificazione, motori di raccomandazione, strumenti di visione artificiale, modelli linguistici generativi, sistemi di riconoscimento biometrico. Un filtro fotografico che applica un effetto artistico e un sistema che concorre a decidere l’ammissione di uno studente a un percorso di istruzione non sono, dal punto di vista del rischio per le persone, in alcun modo equiparabili.

È proprio su questa distinzione che si fonda l’approccio basato sul rischio (risk-based approach) dell’AI Act, e per lo stesso motivo le pubblicazioni pedagogiche di questa collana invitano a far sperimentare ai ragazzi, distinguendoli concretamente, un chatbot a regole, un classificatore addestrato con pochi esempi e un modello linguistico generativo: comprendere le differenze tecniche è il primo passo per comprendere le differenze di rischio, e quindi di trattamento normativo.

8. Come adattare il modulo ai diversi pubblici della collana

Il nucleo concettuale dei sei punti precedenti resta invariato; cambia il livello di approfondimento e il collegamento con cui vengono proposti:

• Pubblicazione tecnico-normativa (DPO, Dirigenti Scolastici): il modulo può precedere la trattazione dei ruoli soggettivi e degli obblighi del deployer, motivando sul piano concettuale perché il Regolamento richiede sorveglianza umana, FRIA/DPIA e classificazione del rischio invece di limitarsi a “fidarsi” del sistema.
• Pubblicazioni pedagogiche (docenti, studenti): il modulo può essere trasposto in forma di discussione guidata o attività pratica (ad esempio chiedendo ai ragazzi di individuare, in un’interazione con un chatbot, un caso di risposta sicura ma errata), collegandosi ai percorsi di educazione civica digitale già previsti.

Chiarire cosa l’intelligenza artificiale non è — non è pensiero umano, non è onnisciente, non è neutrale, non è infallibile, non è un soggetto responsabile, non è un’unica tecnologia indistinta — non è un esercizio nozionistico, ma la premessa concettuale che rende comprensibili le scelte del legislatore europeo e che permette a docenti, DPO e studenti di sviluppare un rapporto maturo e critico con questi strumenti: né di rifiuto aprioristico, né di fiducia acritica.