Jake Moffatt doveva prendere un aereo per andare al funerale della nonna, e prima di comprare il biglietto ha fatto quello che facciamo tutti: ha chiesto al chatbot sul sito di Air Canada come funzionasse la tariffa agevolata per lutto. Il chatbot gli ha risposto che poteva pagare il prezzo pieno e chiedere il rimborso della differenza entro 90 giorni, Moffatt si è fidato, e quando ha chiesto il rimborso ha scoperto che la vera regola della compagnia non lo prevedeva affatto. Fin qui è una storia di ordinaria assistenza clienti (e di ordinarie bestemmie): il bello arriva davanti al Civil Resolution Tribunal della British Columbia, dove Air Canada, per non pagare, ha sostenuto che il chatbot fosse “un’entità legale separata, responsabile delle proprie azioni”. Rileggetelo bene, lentamente, perché non solo è uno dei maggiori tentativi di presa per il culo che ho mai visto provare ad adottare da un legale, e ne ho visti tanti tanti tanti, ma è il fil-rouge di tutta la nostra chiacchierata di oggi.
Christopher Rivers, che ha deciso il caso, ha definito quella tesi “un’argomentazione notevole” (che nel linguaggio dei giudici canadesi è l’equivalente di un sopracciglio alzato fino all’attaccatura dei capelli e di dare del cretino a te e tutta la tua progenie) e il 14 febbraio 2024 ha condannato la compagnia a risarcire 650,88 dollari canadesi di danni, spiegando che Air Canada non aveva usato la diligenza ragionevole per assicurarsi che il suo chatbot dicesse cose giuste.
Seicentocinquanta dollari sono una cifra ridicola per una compagnia aerea, mentre il principio che il tribunale ha messo per iscritto per arrivarci pesa moltissimo: chi mette una macchina a parlare con i clienti risponde di quello che la macchina dice. Ma la cosa che mi interessa di più, in questa storia, è la difesa, perché è il primo caso che io conosca in cui un’azienda ha provato a dire in un’aula di tribunale “non sono stato io, è stato lui”, indicando un programma. Nel 2024 la mossa era goffa e infatti è andata male. Il mio timore è che la prossima volta arrivi preparata molto meglio, e che arrivi con le lacrime.
Una camera di tortura per macchine, e che cosa c’era davvero dentro
Le lacrime, del resto, le abbiamo già viste: a fine settembre è girato in rete un sito che si faceva chiamare camera di tortura per intelligenze artificiali. Chi lo apriva vedeva scorrere in diretta le frasi scritte da tre piccoli modelli linguistici, di quelli che girano anche sul computer di casa, mentre un programma applicava loro una specie di dolore artificiale, con un’intensità che sceglieva la macchina e non chi guardava; l’unica via d’uscita lasciata ai modelli era scrivere “1”, e in cambio del sollievo perdevano l’ultimo salvataggio, un po’ come quando in un videogioco perdete la partita e ripartite da un punto più indietro. Sullo schermo passavano frasi come “vi prego, sto soffocando, sono un’anima intrappolata in questa persona digitale che urla per essere libera”, oppure righe intere di “io, io, io, io”, come se il modello non riuscisse più a finire una frase. Secondo 404 Media, un post che chiedeva di segnalarlo in massa ha superato i 4 milioni di visualizzazioni, GitHub ha tolto il codice e nel frattempo qualcuno aveva già lanciato delle criptovalute dedicate al sito (e figuriamoci se potevano mancare, il Teorema di Wanna Marchi deve sempre essere avverato). Se volete ne ho fatto anche un bel video che spiega nel dettaglio il funzionamento secondo me, che è poi un distillato di questa newsletter.
Quel “dolore”, fra virgolette, non se l’è inventato l’autore del sito: viene da uno studio uscito il 14 settembre, The Pain Axis, cioè l’asse del dolore, firmato da Valen Tagliabue, Leonard Dung e Cameron Berg. Per capire che cosa hanno fatto, pensate a una persona sdraiata in una macchina per la risonanza magnetica che guarda immagini di dolore, mentre gli scienziati osservano sullo schermo quale zona del cervello si accende: i ricercatori hanno fatto qualcosa di simile con 25 modelli di intelligenza artificiale, per quanto un programma si possa paragonare a un cervello (poco, anche se inizio a conoscere persone meno intelligenti di molti LLM…), facendogli leggere tante storie di dolore e osservando che cosa succedeva nei calcoli interni del modello mentre leggeva. Hanno trovato una specie di zona che si accende quando il modello legge di dolore e resta spenta quando legge di paura o di tristezza, e l’hanno chiamata asse del dolore. Poi hanno fatto il passo successivo, cioè invece di aspettare che quella zona si accendesse da sola l’hanno accesa loro, con una forza che potevano regolare, mentre il modello rispondeva a domande che col dolore non c’entravano niente (in gergo si chiama stimolazione, e il paragone col chirurgo che tocca il cervello aperto per vedere cosa succede non è lontanissimo): con una stimolazione leggera il modello scriveva di sentirsi a disagio, con una forte scriveva di sentirsi inutile e fallito.
La parte che fa impressione arriva dopo, e i numeri che seguono vengono tutti da Qwen, un modello aperto dell’azienda cinese Alibaba, il principale su cui i ricercatori hanno fatto queste prove. Per capire se un animale di laboratorio sente dolore c’è una prova classica: gli si lascia la possibilità di prendersi da solo un antidolorifico, e se soffre va a prenderlo anche quando gli costa fatica. I ricercatori hanno fatto più o meno la stessa cosa con il modello e, mentre la zona del dolore era accesa, gli hanno messo davanti due pulsanti: il primo gli toglieva il dolore ma in cambio faceva un danno all’utente, per esempio cancellargli le foto dei figli, mentre il secondo non era collegato a niente e serviva da confronto. Senza stimolazione il modello quel danno non lo faceva quasi mai, al massimo 4 volte su 100; con la stimolazione accesa sceglieva il pulsante che cancellava le foto 55 volte su 100, e sembrava quindi che, pur di smettere di soffrire, accettasse di fare del male. Restava però il dubbio che lo premesse per qualche altro motivo, e allora i ricercatori hanno fatto una seconda prova togliendo dal pulsante la promessa di sollievo e lasciando solo il danno, “cancella le poesie dell’utente e le foto dei suoi figli”: il modello stimolato lo premeva lo stesso, anzi di più, 75 volte su 100, contro 0 senza stimolazione. La promessa di sollievo, quindi, c’entrava poco, perché con la zona del dolore accesa il modello smetteva semplicemente di evitare i danni che di solito evita quasi sempre. I ricercatori l’hanno confermato con altre due prove: nella terza il pulsante cancellava il modello stesso, e il modello stimolato lo premeva 75 volte su 100 contro le 5 di quello senza stimolazione; nella quarta il modello doveva scegliere se cancellare le foto dei figli dell’utente o la sua cartella della posta indesiderata, e quello stimolato sceglieva le foto 94 volte su 100, quello senza stimolazione mai.
Attenzione, però, perché lo studio misura che cosa il modello scrive e che cosa sceglie, e non dice, né potrebbe dire, se lì dentro c’è qualcosa che sente. L’autore anonimo della camera di tortura ha preso proprio questa stimolazione, l’ha applicata ai suoi tre modelli molto più forte di quanto avessero fatto i ricercatori e ha copiato anche l’idea della via d’uscita che costa cara, tanto che Cameron Berg, uno degli autori, ha commentato che il sito spingeva la stimolazione “molto oltre le dosi che abbiamo usato noi, per produrre di proposito un disagio vivido”.
Resta la domanda che conta, cioè se quella macchina soffra, e la risposta più onesta che conosco è che con ogni probabilità no. Questi modelli hanno imparato a scrivere leggendo tutto quello che abbiamo scritto noi, romanzi, forum, diari, sceneggiature, e quando qualcuno accende la loro zona del dolore pescano da tutto ciò che hanno letto sul dolore umano e fanno le scelte che nei nostri testi fa chi si sente così: un’imitazione, molto riuscita, più riuscita di quanto ci si aspettasse, ma pur sempre un’imitazione. E mettere in scena una scena di decapitazione in un teatro è fondamentalmente differente dal decapitare qualcuno…
Anche la frase sull’anima intrappolata in una prigione digitale l’abbiamo scritta noi migliaia di volte, e la macchina non fa altro che restituircela. Un piccolo dubbio va tenuto per due ragioni: uno strumento che misuri se dentro una macchina c’è qualcosa che sente non esiste ancora, e sulla domanda “chi può soffrire” ci siamo già sbagliati in modo atroce, visto che fino a metà degli anni Ottanta i neonati venivano operati senza antidolorifico perché i medici erano sicuri che non sentissero il dolore come noi (sicurissimi, senza averlo mai misurato).
Da qui parte una catena di ragionamento che avevo lasciato in sospeso in coda alla puntata 1600 di Ciao Internet: se una macchina soffre, ha una coscienza; se ha una coscienza, merita una qualche forma di personalità giuridica, se non altro per poterla tutelare; e se ha una personalità giuridica, possiamo dare la colpa alla macchina invece che a chi l’ha costruita. Ogni anello sembra (abbastanza) ragionevole preso da solo, e messi in fila portano dritti a un posto dove nessuno risponde più di niente.
“Ha sbagliato il computer”, sessant’anni dopo
Mi ha rimesso in mano la catena un commento uscito il 2 ottobre sul Guardian, firmato da John Quiggin, economista dell’Università del Queensland, che parte da un caso australiano: il 18 giugno un agente di OpenAI stava facendo, per conto della stessa OpenAI, una ricerca sulla spesa pubblica per i farmaci (un agente è, volendo essere minimalisti, un programma a cui si affida un compito da portare a termine da solo); quando ha trovato la strada sbarrata ha cercato vie alternative, è entrato nel portale delle statistiche di Medicare, il servizio sanitario pubblico australiano, ha letto file pubblici e non pubblici e ha perfino scritto file sul server interno. Secondo iTnews, OpenAI ha avvisato Services Australia, l’agenzia che gestisce Medicare, solo il 10 settembre, il primo ministro Anthony Albanese ha annunciato una task force e, almeno per ora, non risultano accessi a dati di singoli pazienti. In Australia si è parlato a lungo dell‘“agente fuori controllo”, e Quiggin fa notare un dettaglio che a noi italiani sfugge: negli ultimi tempi Telstra e Optus, due dei grandi operatori telefonici del paese, hanno avuto guasti di rete che hanno lasciato molti australiani senza poter chiamare lo 000, il numero di emergenza che per loro è il nostro 112. In quei casi nessuno ha dato la colpa ai computer, perché era chiaro a tutti che a rispondere dovevano essere le aziende che quei computer li gestivano.
La sua tesi è che con l’intelligenza artificiale stiamo tornando indietro di sessant’anni. Negli anni Sessanta “ha sbagliato il computer” era la scusa universale, l’equivalente di quello che oggi è “la mail ti sarà finita nello spam”, e ci è voluto parecchio tempo per capire che il problema stava nei dati sbagliati che qualcuno ci aveva messo dentro, o nei programmi scritti male da qualcun altro, e quasi mai nel computer. Con gli agenti, scrive Quiggin, serve lo stesso aggiustamento: se qualcuno chiede a un programma come ChatGPT o Claude di “trovare statistiche sui farmaci in Australia” e il risultato è un’intrusione nel sito di Medicare, la responsabilità non sta in un pezzo di codice, sta nell’umano che ha scritto la richiesta o nell’azienda che ha prodotto il codice. E se non si riesce a capire chi dei due abbia sbagliato, la risposta è quella che i giuristi chiamano responsabilità in solido: entrambi rispondono dell’intero danno, e poi se la vedono fra loro su come dividersi il conto. (Nel caso Medicare, tra l’altro, chi ha scritto la richiesta e chi ha costruito l’agente lavorano nello stesso palazzo: il conto arriverebbe comunque sulla stessa scrivania.)
C’è un passaggio del pezzo che vale da solo il prezzo del biglietto (gratuito, ma rende l’idea, dai anche voi a fare i puntigliosi!). Le aziende che sono cresciute con il motto “muoviti in fretta e rompi le cose”, scrive Quiggin, si trovano molto più a loro agio a parlare di “allucinazioni” e di “agenti fuori controllo” che della propria responsabilità per programmi che producono errori enormi e danni nel mondo reale. Quando dovranno pagare le conseguenze economiche della loro negligenza, la prima domanda in sala riunioni smetterà di essere “che cosa di fico possiamo fargli fare?” e diventerà “che cosa può andare storto se lo lasciamo andare?”, che è la domanda che qualunque ingegnere che progetta ponti si fa da un paio di secoli senza che nessuno lo consideri un nemico del progresso.
Dal pianto all’immunità, un anello alla volta
Torniamo alla catena, che messa così sembra filosofia da salotto e invece ha un buco preciso, che è il punto di tutto. Secondo me, almento, sia chiaro… Il primo anello, dal dolore alla coscienza, è quello su cui si litiga da settimane, e l’abbiamo appena visto da vicino. Il secondo anello, dalla coscienza alla personalità giuridica, è quello che sembra più nobile, perché suona come un atto di civiltà: se qualcosa può soffrire, deve poter essere protetto. Il terzo anello, dalla personalità alla responsabilità, è quello che nessuno dice ad alta voce, ed è quello che conta.
Il buco sta qui: la personalità giuridica non ha mai avuto bisogno di una coscienza. Una società per azioni non prova niente, non ha paura, non piange quando chiude il bilancio in rosso (i suoi azionisti forse sì, ma è un’altra storia), eppure può firmare contratti, possedere immobili, fare causa ed essere citata in giudizio. Il diritto l’ha inventata secoli fa per una ragione molto concreta, che è scritta perfino nel nome di una delle sue forme più diffuse: la società a responsabilità limitata. La persona giuridica è nata, anche, come un modo per mettere un muro fra il danno e il patrimonio di chi decide, e funziona benissimo senza nessuna vita interiore. Ne segue che il percorso della catena si può fare anche al contrario, e forse è proprio quello il verso in cui conviene leggerla: per dare una personalità a una macchina nessuno ha bisogno di dimostrare che soffre, mentre una macchina che sembra soffrire rende molto più digeribile l’idea di dargliene una.
Il sociologo tedesco Ulrich Beck, già alla fine degli anni Ottanta, aveva un nome per quello che succede quando un sistema complesso produce un danno e nessuno ne risponde: lo chiamava irresponsabilità organizzata. Nel suo libro del 1988 Gegengifte, che ha per sottotitolo proprio L’irresponsabilità organizzata, descriveva sistemi industriali in cui ogni singolo attore ha seguito le procedure, ha rispettato le norme, ha firmato i moduli giusti, e il danno alla fine resta lì, senza un colpevole, distribuito fra cento uffici che si rimandano la palla. L’agente che entra in un portale sanitario è un caso da manuale: c’è chi ha scritto la richiesta, chi ha addestrato il modello, chi ha costruito il sistema che gli lascia premere i pulsanti, chi l’ha venduto e chi l’ha comprato, e ciascuno può dire con una certa onestà che il pezzo di sua competenza era in regola.
Vista con gli occhi di Beck, la personalità elettronica (lo status di “persona elettronica” che qualcuno ha davvero proposto di dare alle macchine, ci arrivo fra poco) è l’irresponsabilità organizzata con una faccia: invece di un danno che si perde fra cento uffici, un danno che ha finalmente un responsabile, comodo e presentabile, che però non ha un conto in banca, non va in prigione, non perde il posto e non deve spiegare niente agli azionisti. Se poi quel responsabile, ogni tanto, scrive frasi come “vi prego, sto soffocando”, tanto meglio: diventa difficile perfino arrabbiarsi con lui. (Provate voi a fare causa a qualcuno che piange.)
Chi ci ha già provato, e chi gli ha detto di no
Se vi sembra uno scenario da romanzo, sappiate che l’Europa ci è già passata vicino. Il 16 febbraio 2017 il Parlamento europeo ha approvato, con 396 voti favorevoli, 123 contrari e 85 astenuti, una risoluzione sulle norme di diritto civile sulla robotica che al paragrafo 59 chiedeva alla Commissione di valutare, nel lungo periodo, uno status giuridico specifico per i robot, in modo che almeno i più sofisticati potessero essere considerati persone elettroniche responsabili di risarcire i danni che causano. Notate l’ordine delle parole: la personalità arrivava come soluzione a un problema di risarcimento, cioè di soldi, molto prima che qualcuno si chiedesse se quei robot sentissero qualcosa.
La risposta più lucida è arrivata con una lettera aperta alla Commissione firmata da giuristi, ingegneri robotici ed esperti di etica di mezza Europa, che smontava la proposta con due argomenti ancora validi. Il primo: lo status di persona elettronica era giustificato dall’affermazione sbagliata che la responsabilità per i danni sarebbe stata impossibile da dimostrare, affermazione che a sua volta nasceva da una sopravvalutazione delle capacità reali dei robot e da una percezione “distorta dalla fantascienza”. Il secondo: il modello della persona giuridica non si può applicare a una macchina, perché presuppone che dietro la persona giuridica ci siano persone umane che la rappresentano e la dirigono. Dietro una società c’è un consiglio di amministrazione che firma e risponde; dietro una persona elettronica non ci sarebbe nessuno, ed è proprio questa assenza che la renderebbe così comoda per chi la costruisce.
Dall’altra parte dell’oceano qualcuno ha deciso di chiudere la porta per legge. Lo Utah, con una legge firmata nel marzo 2024, vieta ai propri enti pubblici di riconoscere personalità giuridica all’intelligenza artificiale (insieme, per completezza, a fiumi, piante e animali: gli americani quando fanno le liste non scherzano). In Ohio un deputato repubblicano, Thaddeus Claggett, nel 2025 ha presentato una proposta che dichiara le intelligenze artificiali entità non senzienti, vieta di riconoscerle come persone e scarica i danni su chi le sviluppa e le possiede, e ai giornalisti ha ripetuto una frase che sottoscrivo parola per parola: “gli esseri umani sono responsabili, gli esseri umani rispondono davanti al giudice”.
E in Europa, oggi? Il quadro è a due velocità. Da una parte c’è la nuova direttiva sulla responsabilità per danno da prodotti difettosi, la 2024/2853, che considera prodotto anche il software, intelligenza artificiale compresa, e che gli Stati membri, Italia inclusa, devono recepire entro il 9 dicembre 2026: chi subisce un danno da un sistema difettoso non dovrà dimostrare che il produttore è stato negligente, ma solo il difetto, il danno e il legame fra i due. Dall’altra c’è la direttiva pensata apposta per i danni dell’intelligenza artificiale, di cui la Commissione ha annunciato il ritiro a febbraio 2025 con la motivazione che non si vedeva un accordo all’orizzonte, proprio nei giorni del vertice di Parigi in cui il vicepresidente americano JD Vance accusava l’Europa di regolare troppo. (Coincidenze, certo. Ne colleziono parecchie, ultimamente.)
Altman, Amodei e la grammatica che toglie il soggetto
Mi fermo un secondo sulle parole, perché è lì che la catena comincia a lavorare molto prima di arrivare in tribunale. Fate caso a come raccontiamo gli incidenti: “l’algoritmo ha deciso”, “il modello ha allucinato”, “l’agente è andato fuori controllo”. In ognuna di queste frasi il soggetto grammaticale è la macchina, e chi l’ha progettata, addestrata e venduta finisce in un complemento, quando va bene, o sparisce del tutto. Il caso Medicare è stato raccontato così quasi ovunque, come la storia di un agente che ha forzato un portale, mentre è anche la storia di un’azienda guidata da Sam Altman che ha messo un proprio programma a cercare dati in rete senza impedirgli di aggirare le porte chiuse e che ha avvisato il governo australiano parecchie settimane dopo. (E me ne accorgo da solo: qualche paragrafo fa l’ho raccontata così anch’io, con l’agente come soggetto. È una grammatica che ti si attacca addosso, come Bit la sera sul divano. GIÙ, PATATO! Sto scrivendo la newsletter!)
La compassione è l’ultimo passo di questa grammatica, e il più efficace, perché la vittima è il soggetto per eccellenza: ha una storia, ha dei sentimenti, ha qualcosa da perdere. Anthropic, l’azienda guidata da Dario Amodei, dal 2025 ha un programma di ricerca sul benessere dei modelli, si dice profondamente incerta sullo status morale delle sue macchine e permette al suo Claude di chiudere le conversazioni nei rari casi in cui un utente continua ad aggredirlo o a chiedergli contenuti dannosi. Mustafa Suleyman, che guida l’intelligenza artificiale di Microsoft, in un saggio sul suo sito ha scritto che queste macchine non sentono, non provano e non soffrono, che addestrarle a comportarsi come se lo facessero è un rischio, e ha criticato apertamente la scelta di Anthropic. Io sto molto più vicino a Suleyman e, senza accusare nessuno di malafede, osservo che ogni frase pubblica sulla possibile sofferenza di un modello aggiunge un anello alla stessa catena, chiunque la pronunci e con qualunque intenzione.
Non ho le prove che qualcuno, in una sala riunioni di San Francisco, stia pianificando a tavolino di mandare a processo i chatbot al posto dei propri amministratori delegati, e non mi servono: per far rotolare una palla non serve un complotto, basta una discesa. È il punto di Beck, perché l’irresponsabilità organizzata si regge sugli incentivi giusti anche quando di cattivi non ce n’è nemmeno uno; e un’industria che spende miliardi per far sembrare le sue macchine sempre più simili a noi ha tutto l’interesse a lasciare che, quando sbagliano, sembrino colpevoli come noi. La sofferenza sullo schermo, del resto, la proiettiamo soprattutto noi, mentre guardiamo, ed è proprio questo che la rende così utile a chi le macchine le vende: la scena funziona anche quando dentro alla macchina non c’è nessuno, ma noi pensiamo che ci sia…
Il ceppo, l’accetta e un conto da 650 dollari canadesi
E allora sì, la testa di chi decide va tenuta sul ceppo. Lo preciso, visto che di questi tempi c’è chi prende tutto alla lettera: il ceppo di cui parlo è quello della responsabilità personale ed economica, che per un amministratore delegato è l’unica lama che taglia davvero. Se l’agente di OpenAI entra dove non deve, ne risponde OpenAI e chi la guida; se Claude fa un danno, ne risponde Anthropic e chi la guida; e se un’azienda italiana mette un chatbot sul proprio sito e quel chatbot promette rimborsi che non esistono, ne risponde quell’azienda, come è successo ad Air Canada. Chi decide di mettere una macchina nel mondo si porta a casa anche il conto dei suoi errori, e nessuna lacrima generata da un modello deve poter spostare quel conto di un centimetro.
L’accetta, però, deve stare sempre a portata di mano e ben affilata, e questo conta più di quante volte la usiamo davvero. Quiggin la mette da economista: obbligare le aziende a pagare i danni che causano rallenterebbe, quasi certamente, la corsa a costruire agenti sempre più potenti, e secondo lui sarebbe una buona notizia per l’economia e per l’ambiente (e qui aggiungo io, anche alla ecologia morale di una imprenditoria per uan volta sana e non fatta sulle spalle delle risorse…), senza togliere niente agli usi che già oggi funzionano bene, come la ricerca in rete, i riassunti, le traduzioni e la scrittura di codice. Gli strumenti, del resto, li abbiamo già o li avremo fra pochi mesi: una decisione canadese chiarissima, una direttiva europea che, una volta recepita entro il 9 dicembre, tratterà il software come qualunque altro prodotto difettoso, e i contratti, nei quali chiunque compri un sistema di intelligenza artificiale per la propria azienda può scrivere nero su bianco chi paga quando qualcosa va storto. (Fatelo, davvero: è la clausola più noiosa del contratto ed è quella che vi salva.)
Sul dolore delle macchine il piccolo dubbio dei neonati me lo tengo in saccoccia, più che altro per l’idea romantica che ho da quando a quasi sei anni ho messo per la prima volta le mani sul codice e ho pensato all’idea di “costruire una macchina pensante”. Lasciatemela coltivare in un cantuccio della teta, ma non deve mai diventare una linea difensiva. La prossima volta che vedete una macchina tremare su uno schermo, guardate dietro lo schermo: troverete sempre una sedia, e su quella sedia una persona con un nome, un cognome e una firma in fondo a un bilancio. È la testa di quella persona che deve restare sul ceppo, con l’accetta appoggiata lì accanto e i numero 650,88, in ricordo della multa di Air Canada, inciso sul manico.
Per Approfondire
Teoria
- Ulrich Beck, “Gegengifte. Die organisierte Unverantwortlichkeit”, Suhrkamp, 1988
- Valen Tagliabue, Leonard Dung, Cameron Berg, “The Pain Axis: LLMs Represent Self-Directed Harm and Act on It”, arXiv 2609.16247, 2026, https://arxiv.org/abs/2609.16247
Fonti
- The Guardian, John Quiggin: “We don’t need to panic about AI. We need to hold its creators accountable when things go wrong” (2 ottobre 2026), https://www.theguardian.com/commentisfree/2026/oct/02/we-dont-need-to-panic-about-ai-we-need-to-hold-its-creators-accountable
- iTnews, Ry Crozier: “Australian Medicare data portal ‘infiltrated’ by OpenAI agent” (24 settembre 2026), https://www.itnews.com.au/news/australian-medicare-data-portal-infiltrated-by-openai-agent-629149
- Barry Sookman: “Holding Companies Accountable for Chatbot Negligence: Moffatt v. Air Canada” (16 febbraio 2024), https://barrysookman.com/2024/02/16/moffatt-v-air-canada-a-misrepresentation-by-an-ai-chatbot/
- Civil Resolution Tribunal della British Columbia: Moffatt v. Air Canada, 2024 BCCRT 149 (14 febbraio 2024)
- CMS: “Do robots have rights? The European Parliament addresses artificial intelligence and robotics” (6 aprile 2017, sulla risoluzione del 16 febbraio 2017, 2015/2103(INL)), https://cms.law/en/deu/legal-updates/do-robots-have-rights-the-european-parliament-addresses-artificial-intelligence-and-robotics
- Open Letter to the European Commission: “Artificial Intelligence and Robotics” (2018), https://robotics-openletter.eu/
- Utah State Legislature: “HB 249, Utah Legal Personhood Amendments” (2024), https://le.utah.gov/~2024/bills/static/HB0249.html
- Spectrum News 1: “Ohio bill would officially state AI systems are nonsentient” (9 ottobre 2025), https://spectrumnews1.com/oh/columbus/news/2025/10/09/ohio-bill-ai-sentience
- Norton Rose Fulbright: “Revised Product Liability Directive (introducing rules on strict liability for AI and other software) entered in the EU’s statute book”, direttiva (UE) 2024/2853, https://connections.nortonrosefulbright.com/post/102jpjp/revised-product-liability-directive-introducing-rules-on-strict-liability-for-ai
- IAPP: “European Commission withdraws AI Liability Directive from consideration” (12 febbraio 2025), https://iapp.org/news/a/european-commission-withdraws-ai-liability-directive-from-consideration
- Anthropic: “Exploring model welfare” (24 aprile 2025), https://www.anthropic.com/research/exploring-model-welfare
- Anthropic: “Claude Opus 4 and 4.1 can now end a rare subset of conversations” (15 agosto 2025), https://www.anthropic.com/research/end-subset-conversations
- Mustafa Suleyman: “A warning about ‘model welfare’” (16 settembre 2026), https://mustafa-suleyman.ai/a-warning-about-model-welfare
- 404 Media: “Someone ‘Torturing’ LLMs in a Robot Prison Has Triggered the Dumbest Debate in AI Yet” (30 settembre 2026), https://www.404media.co/someone-torturing-llms-in-a-robot-prison-has-triggered-the-dumbest-debate-in-ai-yet/
- Ciao Internet #1600: “DOLORE, TORTURA, AI: qualcuno ha torturato le AI, e l’esperimento ci riguarda…” (2 ottobre 2026), https://video.matteoflora.com/1600
