Intelligenza Artificiale sotto la lente: nasce la forensica delle chatbot AI
Uno studio pionieristico analizza ChatGPT, Gemini, Copilot e Claude come potenziali fonti di prova digitale, rivelando dove cercare le tracce delle conversazioni e proponendo un framework per indagare sui crimini commessi con il loro aiuto, fornendo le basi per la Conversational AI Forensics. Lo studio completo è disponibile qui.
Le chatbot conversazionali basate su intelligenza artificiale, come ChatGPT, sono ormai onnipresenti. Parallelamente, cresce il loro potenziale utilizzo per attività criminali quali phishing, creazione di malware e fughe di dati. Finora, tuttavia, la ricerca forense si è concentrata prevalentemente sull’uso di questi strumenti a supporto delle indagini, trascurando l’analisi dei crimini commessi attraverso di essi.
Uno studio della Sungkyunkwan University colma questa lacuna proponendo il primo framework sistematico per la Conversational AI Forensics, analizzando i quattro principali servizi: ChatGPT (OpenAI), Copilot (Microsoft), Gemini (Google) e Claude (Anthropic).
L’analisi evidenzia come le chatbot presentino architetture e politiche di gestione dei dati profondamente diverse, che determinano dove e come sia possibile recuperare le tracce delle conversazioni:
- ChatGPT e Claude: memorizzano la cronologia delle chat sui propri server. ChatGPT offre una funzione di Esporta dati, che invia all’utente un file JSON contenente l’intera cronologia, i metadati, i file allegati e le ricerche web effettuate. Claude non dispone di un’esportazione diretta, ma i dati risultano accessibili tramite API REST.
- Gemini: i log sono integrati nell’ecosistema Google e possono essere recuperati tramite Google Takeout, come parte della sezione My Activity.
- Copilot: adotta una filosofia differente. Non salva le conversazioni sui server, ma le mantiene localmente sul dispositivo dell’utente (in modo simile alla funzionalità Recall di Windows). Questo approccio riduce il rischio di intercettazioni di rete, ma introduce nuove vulnerabilità a livello locale.
Dove cercare le prove: una mappa degli artefatti digitali
Lo studio fornisce una guida pratica su dove gli investigatori possono individuare tracce, in base al dispositivo analizzato e al livello di accesso all’account:
- Accesso all’account utente (metodo privilegiato)
In presenza delle credenziali, è possibile utilizzare le funzioni di esportazione native (ChatGPT, Gemini) o l’accesso via API (Claude) per ottenere la cronologia completa delle interazioni. - Analisi del browser web (metodo locale)
Nelle cache dei browser (Chrome, Edge) possono emergere numerosi artefatti:- ChatGPT: URL con backend-api, informazioni sull’account, timestamp, metadati di file e immagini .webp generate.
- Copilot: query dell’utente nei parametri URL (qry=) e immagini generate (bing.com/th/id).
- Claude: in modo sorprendente, la cache può contenere l’intera cronologia delle chat e informazioni sull’account in file JSON direttamente accessibili.
- Gemini: l’analisi risulta più complessa a causa dell’integrazione con i servizi Google, ma è possibile individuare immagini generate dall’AI.
- Analisi delle app mobili (metodo locale)
- ChatGPT (Android): il database SQLite dell’app (com.openai.chatgpt) conserva la cronologia delle chat, l’email dell’account e metadati del dispositivo.
- Gemini e Copilot (app): forniscono meno dati diretti; tuttavia, l’account utente può essere dedotto da altre app Google (ad esempio Gmail) o da tracce presenti nei file di cache.
Framework investigativo in cinque fasi
Lo studio propone un processo strutturato per condurre le indagini:
- Preparazione: identificazione delle potenziali fonti di dati (dispositivi, sistemi operativi, browser, integrazioni cloud).
- Identificazione: ricerca delle tracce d’uso delle chatbot mediante tecniche di computer, mobile e browser forensics.
- Raccolta: acquisizione delle prove utilizzando i metodi appropriati (esportazione dati, analisi delle cache, estensioni browser dedicate; gli autori hanno rilasciato un’estensione open-source per Claude).
- Analisi: normalizzazione e correlazione dei dati eterogenei provenienti da fonti diverse per ricostruire timeline e contenuti (gli autori forniscono anche uno strumento open-source per questa fase).
- Report: documentazione del processo e presentazione delle prove in modo chiaro e legalmente valido.
Il framework descritto è un approccio standardizzato alla Conversational AI Forensics per investigatori digitali.
Casi studio: ransomware e copyright
Lo studio include scenari ipotetici ma realistici:
- Scenario 1 – Ransomware
Un attaccante utilizza Gemini, tramite prompt di tipo jailbreak, per apprendere come creare un ransomware. Gli investigatori, partendo dalle tracce presenti nel browser del PC, risalgono allo smartphone dell’indagato, identificano l’account Gmail associato, ottengono un mandato e recuperano la cronologia incriminata tramite Google Takeout. - Scenario 2 – Violazione del copyright
Un illustratore accusa un collega di plagio. L’indagine sul laptop dell’accusato rivela un’immagine .webp scaricata da ChatGPT. L’analisi forense dello smartphone conferma, attraverso il database dell’app, il prompt utilizzato per generare l’immagine, dimostrando che l’opera non era originale.
Conclusioni e prospettive della Conversational AI Forensics
Con l’integrazione sempre più profonda delle AI nella vita quotidiana, la capacità di investigarne l’uso criminale diventa essenziale. Questo studio fornisce le basi tecniche e metodologiche per la Conversational AI Forensics, un ambito che si colloca all’intersezione tra mobile forensics, cloud forensics e browser forensics.
La ricerca offre una mappa degli artefatti per i principali servizi e un framework operativo per gli investigatori, contribuendo a colmare un gap critico nella lotta al cybercrime nell’era dell’intelligenza artificiale. Gli strumenti open-source rilasciati dagli autori rappresentano un primo passo concreto per la comunità forense.
Il futuro delle indagini digitali passa dalla Conversational AI Forensics.
Lumen Investigazioni è un’agenzia investigativa con sede a Milano, specializzata in indagini private, aziendali e penali basate su metodo scientifico e ricerca.