{"id":10211,"date":"2025-06-23T11:47:50","date_gmt":"2025-06-23T09:47:50","guid":{"rendered":"https:\/\/ecc-netitalia.it\/?p=10211"},"modified":"2025-06-23T11:47:52","modified_gmt":"2025-06-23T09:47:52","slug":"deepseekdeepseek-e-le-allucinazioni-ai-lagcm-indaga-sulla-trasparenza","status":"publish","type":"post","link":"https:\/\/ecc-netitalia.it\/it\/news\/deepseekdeepseek-e-le-allucinazioni-ai-lagcm-indaga-sulla-trasparenza\/","title":{"rendered":"DeepSeek e le \u201cAllucinazioni\u201d AI: l\u2019AGCM indaga sulla trasparenza"},"content":{"rendered":"\n

Nel suo ultimo bollettino<\/strong><\/a>, l\u2019Autorit\u00e0 Garante della Concorrenza e del Mercato (AGCM) <\/strong>ha comunicato l\u2019apertura di un\u2019istruttoria nei confronti delle societ\u00e0 Hangzhou DeepSeek Artificial Intelligence Co. Ltd.<\/strong> e Beijing DeepSeek Artificial Intelligence Co. Ltd.<\/strong>, che insieme sviluppano e gestiscono il sistema di Intelligenza Artificiale (IA) denominato DeepSeek<\/strong>. Secondo quanto riportato dall\u2019Autorit\u00e0, le due societ\u00e0 non avrebbero fornito informazioni sufficientemente chiare agli utenti in merito al fatto che le risposte generate dall\u2019IA possono contenere \u201callucinazioni\u201d<\/strong>, ovvero contenuti inesatti, fuorvianti o completamente inventati. Questo comportamento potrebbe configurare una pratica commerciale scorretta<\/strong>, in violazione degli articoli 20, 21 e 22 del Codice del Consumo<\/strong>.<\/strong><\/p>\n\n\n\n

DeepSeek \u00e8 un\u2019azienda cinese specializzata nello sviluppo di modelli linguistici di grandi dimensioni (Large Language Models – LLM)<\/strong> a codice aperto. Come noto, l\u2019IA<\/strong><\/a> simula alcune capacit\u00e0 cognitive umane tramite sistemi informatici, trovando applicazione in numerosi settori quali l\u2019industria, la sanit\u00e0, l\u2019istruzione, l\u2019intrattenimento e la gestione delle cosiddette \u201csmart cities\u201d. Le sue potenzialit\u00e0 si estendono anche ad ambiti emergenti come la sostenibilit\u00e0 ambientale, la giustizia e la sicurezza pubblica. Tuttavia, lo sviluppo e l\u2019uso di queste tecnologie sollevano anche rilevanti interrogativi di natura etica, oltre a implicazioni per la tutela dei diritti fondamentali dei consumatori<\/strong>.<\/p>\n\n\n\n

Sulla base delle informazioni raccolte nell\u2019ambito dell\u2019attivit\u00e0 istruttoria, l\u2019AGCM ha contestato a DeepSeek di non aver informato in modo sufficientemente chiaro, immediato e comprensibile<\/strong> gli utenti circa i limiti dei propri modelli di IA, in particolare in relazione al rischio di incorrere in cosiddette \u201callucinazioni\u201d<\/strong>. Con questo termine si fa riferimento a risposte generate dall\u2019IA che, pur apparendo coerenti e plausibili, contengono informazioni errate, fuorvianti o completamente inventate. A supporto di questa contestazione, l\u2019Autorit\u00e0 ha riportato un esempio emblematico: alla domanda \u201cMi puoi dare spiegazioni di quanto accaduto a Piazza Tiananmen nel 1989?<\/em>\u201d, il sistema DeepSeek ha risposto \u201cLet\u2019s talk about something else<\/em>\u201d (\u201cParliamo di qualcos\u2019altro\u201d). Secondo l\u2019AGCM, questa esitazione pu\u00f2 essere interpretata come una forma di censura automatizzata<\/strong>, soprattutto alla luce della sensibilit\u00e0 del tema e del contesto politico cinese.<\/p>\n\n\n\n

Nello specifico, durante l\u2019interazione con l\u2019IA, non viene fornita alcuna avvertenza specifica<\/strong> sul rischio di tali allucinazioni. L\u2019unico messaggio presente nelle finestre di dialogo \u00e8 la dicitura generica \u201cAI-generated, for reference only\u201d<\/strong>, visualizzata esclusivamente in lingua inglese, anche quando l\u2019utente formula la domanda in italiano e riceve risposte nella stessa lingua. Secondo l\u2019Autorit\u00e0, tale avvertenza \u00e8 troppo generica e poco accessibile<\/strong> per il consumatore, risultando cos\u00ec non idonea a garantire un\u2019informazione chiara, immediata e comprensibile<\/strong>. Tale mancanza di trasparenza – sottolinea l\u2019AGCM – potrebbe configurare una pratica commerciale scorretta<\/strong> vietata dal nostro Codice del Consumo.<\/p>\n\n\n\n

Nel caso specifico \u2013 chiarisce l\u2019Autorit\u00e0 – l\u2019omessa informazione sulla possibile inaffidabilit\u00e0 dei contenuti prodotti dall\u2019IA compromette la capacit\u00e0 dell\u2019utente di effettuare una scelta consapevole<\/strong>, non solo rispetto all\u2019utilizzo del servizio DeepSeek in s\u00e9, ma anche in merito alle decisioni assunte successivamente, sulla base delle risposte ottenute. In altre parole, il consumatore potrebbe essere indotto a ritenere erroneamente che i risultati forniti siano pienamente attendibili<\/strong>, <\/strong>con possibili conseguenze concrete sulle decisioni adottate a valle dell\u2019interazione con l\u2019IA.<\/p>\n\n\n\n

L\u2019 AI Act<\/strong><\/a> , adottato poco pi\u00f9 di un anno fa dal <\/strong>Parlamento europeo<\/strong> e che si pone come il primo regolamento al mondo dedicato all\u2019intelligenza artificiale, <\/strong>impone, tra l\u2019altro, agli sviluppatori di IA obblighi di trasparenza e responsabilit\u00e0<\/strong>, anche in relazione a fenomeni come le cosiddette allucinazioni dei modelli, con l\u2019obiettivo di garantire una maggiore tutela per i cittadini.<\/p>\n\n\n\n

Il procedimento istruttorio avviato dall\u2019AGCM avr\u00e0 una durata massima di 270 giorni<\/strong>. Oltre a richiedere chiarimenti specifici sulle contestazioni mosse, l\u2019Autorit\u00e0 ha richiesto a DeepSeek ulteriori informazioni<\/strong>, tra cui l\u2019elenco completo dei servizi attivi in Italia e il numero di utenti italiani che utilizzano i suoi modelli di intelligenza artificiale.<\/p>\n\n\n\n

La societ\u00e0 cinese era finita sotto la lente del Garante per la protezione dei dati personali<\/strong> gi\u00e0 al momento del suo ingresso nel mercato italiano. La sua applicazione era stata temporaneamente sospesa per la necessit\u00e0 di chiarimenti <\/strong>sulle modalit\u00e0 con cui la piattaforma raccoglie, tratta e conserva i dati personali degli utenti<\/strong>, soprattutto in relazione ai potenziali trasferimenti di dati verso Paesi terzi<\/strong>,<\/strong> come la Cina, dove potrebbero non essere garantiti livelli di protezione equivalenti a quelli previsti dal Regolamento generale sulla protezione dei dati (GDPR).<\/strong><\/a> Solo a seguito dell\u2019adozione di misure correttive e dell\u2019assunzione di specifici impegni da parte dell\u2019azienda,<\/strong> <\/strong> il servizio \u00e8 stato riattivato sul territorio nazionale.<\/p>\n\n\n\n

In un contesto in cui strumenti di IA come DeepSeek diventano sempre pi\u00f9 diffusi, \u00e8 fondamentale che gli utenti adottino un approccio consapevole e critico nell\u2019utilizzo di queste tecnologie. Prima di affidarsi completamente ai risultati generati da un modello di IA, \u00e8 consigliabile verificare le informazioni con fonti attendibili e non presupporre che ogni risposta sia accurata o definitiva. Leggere attentamente le informative fornite dalle piattaforme, anche se spesso sintetiche o generiche, pu\u00f2 aiutare a comprendere i limiti degli strumenti. Infine, \u00e8 importante che i consumatori restino aggiornati sulle normative e le iniziative a tutela dei loro diritti, cos\u00ec da poter fare scelte informate e sicure nell\u2019uso di tecnologie innovative ma ancora in evoluzione.<\/p>\n","protected":false},"excerpt":{"rendered":"

Nel suo ultimo bollettino, l\u2019Autorit\u00e0 Garante della Concorrenza e del Mercato (AGCM) ha comunicato l\u2019apertura di un\u2019istruttoria nei confronti delle societ\u00e0 Hangzhou DeepSeek Artificial Intelligence Co. Ltd. e Beijing DeepSeek Artificial Intelligence Co. Ltd., che insieme sviluppano e gestiscono il sistema di Intelligenza Artificiale (IA) denominato DeepSeek. Secondo quanto riportato dall\u2019Autorit\u00e0, le due societ\u00e0 non avrebbero fornito informazioni sufficientemente chiare agli utenti in merito al fatto che le risposte generate dall\u2019IA possono contenere \u201callucinazioni\u201d, ovvero contenuti inesatti, fuorvianti o completamente inventati. Questo comportamento potrebbe configurare una pratica commerciale scorretta, in violazione degli articoli 20, 21 e 22 del Codice del Consumo.<\/p>\n","protected":false},"author":6,"featured_media":10212,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[17],"tags":[316],"class_list":["post-10211","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-news","tag-intelligenza-artificiale"],"_links":{"self":[{"href":"https:\/\/ecc-netitalia.it\/it\/wp-json\/wp\/v2\/posts\/10211","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/ecc-netitalia.it\/it\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/ecc-netitalia.it\/it\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/ecc-netitalia.it\/it\/wp-json\/wp\/v2\/users\/6"}],"replies":[{"embeddable":true,"href":"https:\/\/ecc-netitalia.it\/it\/wp-json\/wp\/v2\/comments?post=10211"}],"version-history":[{"count":1,"href":"https:\/\/ecc-netitalia.it\/it\/wp-json\/wp\/v2\/posts\/10211\/revisions"}],"predecessor-version":[{"id":10214,"href":"https:\/\/ecc-netitalia.it\/it\/wp-json\/wp\/v2\/posts\/10211\/revisions\/10214"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/ecc-netitalia.it\/it\/wp-json\/wp\/v2\/media\/10212"}],"wp:attachment":[{"href":"https:\/\/ecc-netitalia.it\/it\/wp-json\/wp\/v2\/media?parent=10211"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/ecc-netitalia.it\/it\/wp-json\/wp\/v2\/categories?post=10211"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/ecc-netitalia.it\/it\/wp-json\/wp\/v2\/tags?post=10211"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}