Cosa l’IA non è: guida critica per docenti e studenti Intelligenza Artificiale

Collana STEM & Intelligenza Artificiale a Scuola

VOLUME T2

Modulo trasversale · Alfabetizzazione critica all’IA

Cosa NON è l’Intelligenza Artificiale

Sei equivoci comuni da correggere prima di regolamentare, insegnare o utilizzare i sistemi di IA

A cura di G. Ianniello – Referente per la Transizione Digitale, la Trasparenza e la Protezione dei Dati

Anno scolastico 2026/2027

1. Perché serve un modulo su “cosa non è l’IA”

Le pubblicazioni di questa collana affrontano l’intelligenza artificiale a partire da ciò che essa fa, prevede, obbliga o consente, secondo il quadro tracciato dal Regolamento (UE) 2024/1689 (AI Act) e dal GDPR. Prima ancora di descrivere ruoli, obblighi e percorsi didattici, tuttavia, è utile fermarsi su un passaggio preliminare troppo spesso dato per scontato: chiarire cosa l’IA non è.

Le rappresentazioni distorte dell’intelligenza artificiale — alimentate da narrazioni mediatiche, marketing commerciale e antropomorfizzazioni linguistiche non innocue (“il sistema capisce”, “il modello pensa”, “l’IA decide”) — non sono un problema puramente lessicale. Producono conseguenze concrete: inducono un’eccessiva fiducia negli output di un sistema, in Italia come altrove disorientano l’utente sull’attribuzione delle responsabilità che l’AI Act assegna con precisione a provider e deployer, e rendono più difficile per il personale scolastico e per gli studenti l’esercizio di un pensiero critico realmente informato.

Nota d’uso: questo modulo è pensato per essere richiamato, con i necessari adattamenti di registro, sia nelle pubblicazioni tecnico-normative rivolte a Dirigenti Scolastici e DPO sia in quelle pedagogiche rivolte a docenti e studenti. Il paragrafo 8 indica come calibrarlo per i due pubblici.

2. L’IA non è “intelligenza” nel senso in cui lo è quella umana

Il termine “intelligenza artificiale” è esso stesso una fonte primaria di equivoco. I sistemi oggi definiti IA, compresi i modelli linguistici di grandi dimensioni (Large Language Model, LLM) alla base dei chatbot generativi, non comprendono il significato di ciò che elaborano nel senso in cui lo fa una mente umana: eseguono operazioni matematiche su rappresentazioni numeriche del linguaggio, delle immagini o di altri dati, individuando pattern statistici appresi durante l’addestramento su grandi quantità di esempi.

Un modello linguistico non possiede intenzioni, non ha coscienza di sé, non prova comprensione né convinzione rispetto a ciò che genera. Quando produce una risposta corretta e ben argomentata, non lo fa perché “sa” che è corretta, ma perché quella sequenza di parole risulta statisticamente plausibile rispetto al contesto e ai dati di addestramento. Questa distinzione, tutt’altro che accademica, spiega anche perché uno stesso sistema possa produrre, con analoga sicurezza espositiva, sia un’informazione accurata sia un’informazione del tutto inventata (il fenomeno delle cosiddette “allucinazioni”).

Un navigatore GPS non conosce la strada: calcola percorsi sulla base di dati e regole. Allo stesso modo un modello linguistico non ‘sa’ una cosa: genera una risposta sulla base delle regolarità apprese.

3. L’IA non è magia, né un oracolo onnisciente

Un secondo equivoco diffuso attribuisce ai sistemi di IA una conoscenza aggiornata, completa e verificata del mondo. In realtà, un modello generativo riflette i dati, spesso non recentissimi e non esenti da errori, su cui è stato addestrato, e non dispone di un accesso diretto e verificato alla realtà, salvo quando è esplicitamente collegato a strumenti esterni di ricerca o consultazione.

Ne derivano due conseguenze pratiche particolarmente rilevanti in ambito scolastico:

• l’output di un sistema di IA non va mai considerato automaticamente attendibile, ma richiede verifica su fonti autorevoli e indipendenti — un principio che, come illustrato nelle pubblicazioni pedagogiche di questa collana, va insegnato esplicitamente agli studenti attraverso esercizi di fact-checking;
• la qualità di una risposta dipende in larga misura dalla formulazione della richiesta (il cosiddetto prompt) e dal contesto fornito, non da una capacità di ragionamento autonomo e stabile del sistema.

Il problema maggiore non è una risposta palesemente assurda, ma una risposta falsa scritta bene.

4. L’IA non è neutrale né oggettiva

Un sistema di IA non produce risultati “puri”, sganciati da ogni condizionamento: riflette necessariamente le caratteristiche, i limiti e talvolta i pregiudizi presenti nei dati con cui è stato addestrato, oltre alle scelte progettuali di chi lo ha sviluppato. Un modello addestrato su dati non rappresentativi di determinati gruppi, contesti o punti di vista produrrà, con elevata probabilità, risultati sistematicamente distorti a loro danno: è il fenomeno noto come bias algoritmico.

È proprio questa mancanza di neutralità intrinseca a giustificare, sul piano normativo, la particolare cautela che l’AI Act riserva ai sistemi impiegati nel settore dell’istruzione (Allegato III) e il divieto assoluto, rilevante per gli ambienti scolastici, dei sistemi di scoring sociale e di riconoscimento delle emozioni (art. 5): non perché l’IA sia intrinsecamente malevola, ma perché la sua apparente oggettività può mascherare, anziché eliminare, condizionamenti e distorsioni difficili da individuare a valle, e può perpetuare disuguaglianze strutturali già esistenti nella società e rischia di amplificare preconcetti che il sistema educativo dovrebbe invece contrastare.

5. L’IA non è infallibile

Nessun sistema di IA attualmente disponibile garantisce un tasso di errore pari a zero, anche quando la sua interfaccia comunica le risposte con un tono sicuro e assertivo che nulla ha a che vedere con l’effettiva affidabilità del contenuto. Questa consapevolezza è alla base, sul piano regolatorio, dell’obbligo di sorveglianza umana (human oversight) previsto dall’art. 26 dell’AI Act per i sistemi ad alto rischio, e del diritto, sancito dall’art. 22 del GDPR, a non essere sottoposti a una decisione basata unicamente su un trattamento automatizzato quando questa produca effetti giuridici o incida in modo analogamente significativo sulla persona.

In ambito scolastico, questo si traduce in una regola semplice da trasmettere sia al personale sia agli studenti: qualunque output di un sistema di IA — un voto suggerito, un testo generato, una classificazione — resta un suggerimento da sottoporre al vaglio critico di una persona competente, mai un verdetto da accettare acriticamente.

6. L’IA non è un soggetto giuridico né un responsabile autonomo

Prima di adottare uno strumento IA una scuola deve chiedersi non solo cosa può fare, ma chi risponde delle conseguenze del suo utilizzo. Un errore concettuale ricorrente, spesso indotto da un linguaggio disinvolto (“l’IA ha deciso”, “è colpa dell’algoritmo”), consiste nell’attribuire al sistema stesso una qualche forma di responsabilità autonoma. Il quadro giuridico europeo, sia con l’AI Act sia con il GDPR, non riconosce all’IA alcuna soggettività: la responsabilità per lo sviluppo, l’immissione sul mercato e l’utilizzo di un sistema di IA ricade sempre su persone fisiche o giuridiche individuabili, secondo i ruoli di provider e deployer descritti in dettaglio nella pubblicazione tecnico-normativa di questa collana. In altre parole, l’IA rimane uno strumento, privo di volontà o intenzionalità proprie.

Per l’istituto scolastico questo significa che l’adozione di uno strumento di IA — per la correzione di elaborati, per la personalizzazione dei percorsi di apprendimento, per il monitoraggio durante le prove — non trasferisce la responsabilità educativa e valutativa dal docente e dall’istituto al sistema stesso: la responsabilità resta, e deve restare, in capo alle persone.

7. L’IA non è un’unica cosa

Infine, un equivoco più sottile ma diffuso è quello di parlare di “l’IA” come di un’entità unitaria, mentre l’etichetta comprende famiglie di tecnologie molto diverse fra loro per funzionamento, scopo e livello di rischio: sistemi di classificazione, motori di raccomandazione, strumenti di visione artificiale, modelli linguistici generativi, sistemi di riconoscimento biometrico. Un filtro fotografico che applica un effetto artistico e un sistema che concorre a decidere l’ammissione di uno studente a un percorso di istruzione non sono, dal punto di vista del rischio per le persone, in alcun modo equiparabili.

È proprio su questa distinzione che si fonda l’approccio basato sul rischio (risk-based approach) dell’AI Act, e per lo stesso motivo le pubblicazioni pedagogiche di questa collana invitano a far sperimentare ai ragazzi, distinguendoli concretamente, un chatbot a regole, un classificatore addestrato con pochi esempi e un modello linguistico generativo: comprendere le differenze tecniche è il primo passo per comprendere le differenze di rischio, e quindi di trattamento normativo.

“L’IA non è ” a scuola: esempi pratici per capire cosa può e cosa non può fare

Comprendere cosa l’AI non è diventa più semplice osservando situazioni concrete.

Caso 1 — L’IA che aiuta a preparare una verifica

Un docente può utilizzare un sistema di IA generativa per proporre domande, creare esempi o suggerire una struttura per una verifica.

Questo non significa però che la verifica sia automaticamente corretta o adeguata. È fondamentale valutare attentamente ogni elemento proposto per garantire coerenza con gli obiettivi didattici

L’insegnante deve controllare:

• se le domande sono coerenti con gli obiettivi didattici;
• se il livello di difficoltà è appropriato;
• se le informazioni fornite sono corrette;
• se eventuali esempi contengono errori o semplificazioni improprie.

L’IA può aiutare a preparare un’attività, ma non conosce la classe, gli studenti e il contesto educativo.

Caso 2 — Lo studente che usa l’IA per scrivere un tema

Uno studente può chiedere all’IA di generare un testo su un argomento storico o letterario.

Il risultato può sembrare corretto e ben scritto, ma questo non significa che rappresenti realmente la conoscenza dello studente.

Il rischio è confondere:

• un testo prodotto;
• con un apprendimento acquisito.

Un uso educativo dell’IA può invece essere:

• chiedere una spiegazione alternativa;
• confrontare una risposta dell’IA con il libro di testo;
• individuare errori o punti deboli;
• migliorare una propria prima versione.

L’IA può essere uno strumento per imparare, ma non può imparare al posto dello studente.

Caso 3 — L’IA che valuta un elaborato

Un sistema automatico può analizzare un testo e proporre un giudizio, un punteggio o un feedback.

Tuttavia una valutazione scolastica non riguarda soltanto la forma del testo.

Un docente considera anche:

• il percorso dello studente;
• i progressi nel tempo;
• le difficoltà incontrate;
• la capacità di ragionamento;
• il contesto educativo.

Un algoritmo può individuare caratteristiche linguistiche, ma non possiede una comprensione pedagogica dello studente.

Un suggerimento automatico può supportare una valutazione, ma non sostituire il giudizio professionale del docente.

Caso 4 — L’IA che risponde a una domanda

Uno studente chiede:

“Quali furono le cause della Rivoluzione francese?”

L’IA può fornire una risposta utile, ma potrebbe anche:

• semplificare troppo un fenomeno complesso;
• omettere elementi importanti;
• presentare informazioni inesatte in modo convincente.

Per questo la domanda più importante non è:

“L’IA mi ha dato una risposta?”

ma:

“Come posso verificare se questa risposta è affidabile?”

Caso 5 — L’IA e i dati personali degli studenti

Un’applicazione scolastica basata sull’IA potrebbe chiedere:

• nomi;
• elaborati degli studenti;
• informazioni personali;
• dati relativi all’apprendimento.

Prima di utilizzare lo strumento è necessario valutare:

• quali dati vengono raccolti;
• dove vengono conservati;
• chi può accedervi;
• per quale finalità vengono utilizzati.

Uno strumento utile dal punto di vista didattico non è automaticamente adeguato dal punto di vista della protezione dei dati.

Post it Alunni: L’AI non è

Sei cose da sapere sull’intelligenza artificiale

1. L’IA non pensa come una persona

Quando usiamo un chatbot, può sembrare che stia ragionando, ma non ha pensieri, emozioni o consapevolezza. Si limita a elaborare informazioni in modo meccanico, senza comprendere davvero il significato di ciò che dice , imitando una conversazione umana senza alcuna vera intenzione o coscienza dietro le sue parole, pur essendo in grado di generare testi coerenti e articolati .
Costruisce risposte analizzando schemi presenti nei dati con cui è stata addestrata.

2. L’IA può sbagliare

Una risposta scritta bene non significa necessariamente che sia vera. Anzi, spesso le argomentazioni più persuasive nascondono imprecisioni o pregiudizi sottostanti , soprattutto quando manca una verifica critica delle fonti.

L’IA può creare informazioni false ma molto convincenti. Questo fenomeno, noto come “hallucination”, rappresenta una sfida crescente nell’era digitale.

Per questo bisogna sempre controllare le informazioni importanti.

3. L’IA non è conosceza del “tutto”

Non è un’enciclopedia perfetta e non possiede una conoscenza assoluta del mondo.

La qualità della risposta dipende anche dalla domanda fatta e dagli strumenti utilizzati. Per esempio, un prompt ben formulato può guidare l’intelligenza artificiale verso risultati più precisi e utili. Inoltre, la chiarezza delle istruzioni influisce direttamente sulla pertinenza delle informazioni fornite. Quindi ragazzi costruite una domanda ben fatta e otterrete una risposta più affidabile su cui lavorare.

4. L’IA non è neutrale

I sistemi di IA vengono creati dagli esseri umani e imparano da grandi quantità di dati.

Nei dati possono esserci errori, limiti o punti di vista particolari. È quindi fondamentale interpretarli con spirito critico e consapevolezza.

5. L’IA non sostituisce lo studio

Usare l’IA per copiare un compito può produrre un risultato veloce, ma non costruisce conoscenza.

Usarla bene significa farla diventare uno strumento per:

• capire meglio;
• fare domande;
• trovare nuovi punti di vista;
• migliorare il proprio lavoro.

6. L’IA non decide al posto tuo

Una risposta dell’IA è un punto di partenza, non una verità definitiva. Bisogna saper interpretare e contestualizzare le informazioni ricevute.

La capacità più importante rimane quella umana: pensare, controllare e scegliere.

Una regola semplice per usare l’IA a scuola

L’intelligenza artificiale non deve essere vista né come un nemico da evitare né come un esperto da seguire senza dubbi.

È uno strumento potente, ma ogni strumento richiede competenza.

La regola più importante può essere riassunta così:

“L’IA può aiutarti a trovare una risposta, ma solo tu puoi decidere se quella risposta merita fiducia.”

Per questo la vera competenza nell’uso dell’intelligenza artificiale non consiste nel saper ottenere rapidamente un risultato, ma nel saperlo analizzare, verificare e utilizzare in modo responsabile.

A scuola il valore dell’IA non sarà determinato da quanto riuscirà a sostituire il lavoro umano, ma da quanto riuscirà ad aumentare la capacità di studenti e docenti di comprendere, ragionare e creare.

Chiarire cosa l’intelligenza artificiale non è — non è pensiero umano, non è onnisciente, non è neutrale, non è infallibile, non è un soggetto responsabile, non è un’unica tecnologia indistinta — non è un esercizio nozionistico, ma la premessa concettuale che rende comprensibili le scelte del legislatore europeo e che permette a docenti, DPO e studenti di sviluppare un rapporto maturo e critico con questi strumenti: né di rifiuto aprioristico, né di fiducia acritica.