Sto Male se guardo contenuti generati dall’Intelligenza Artificiale.

Il problema non è di natura razionale, ma inconscio. C’è un conflitto con ciò che non è Reale.

 Indice:

• L’intelligenza artificiale non ha coscienza di sé.
• L’Intelligenza Artificiale un problema sociale.
• Le immagini create dalle AI si vedono che sono AI. Ma se fossero fatte perfette non te ne accorgeresti.
• Cospirazionisti contro l’Intelligenza Artificiale.
• Le testimonianze su Reddit: sto male guardando contenuti AI, mi sento “sovraccaricato”.
• Ho il potere di individuare le immagini generate dall’Intelligenza Artificiale attraverso le mie sensazioni (?)
• Limitazioni della vita sociale, e mancato rispetto delle norme comuni a causa dell’utilizzo dell’Intelligenza Artificiale.
• Usi consentiti dell’Intelligenza Artificiale.
• Intelligenza Artificiale, quali sono i pericoli.
• Quante persone ci sono che stanno male a causa dell’Intelligenza Artificiale?
• Link agli articoli citati.

L’intelligenza artificiale non ha coscienza di sé.

Qualche tempo fa sui social, circolava un testo generato dall’Intelligenza Artificiale riguardo la guerra in Ucraina. È stato chiesto a chatGPT:

Puoi farmi una sintesi del conflitto tra Russia e Ucraina per il Dombass facendo attenzione a sostituire alla Russia l’Italia, a l’Ucraina la Confederazione Svizzera e al Donbass il canton Ticino?

La risposta generata la trovate qui in allegato, e non la riporto direttamente qui per motivi che capirete in seguito.

Avevo deciso di leggerlo affondo per capire che cosa l’autore volesse comunicarmi, senza capire fin dall’inizio che questo era stato fatto dall’Intelligenza Artificiale.

Verso la metà della lettura però, qualcosa non tornava. Non riuscivo più a leggere perché avevo una sensazione di nausea provocata dalla lettura. Ma come era possibile ciò?

Mi sono accorto nel tempo, che i contenuti generati con l’AI mi danno fastidio. Mi hanno sempre dato fastidio, solo che all’inizio non me ne accorgevo. La sensazione di malessere arriva dopo un sovraccarico espositivo ai contenuti generati con le AI. Non che io li abbia mai cercati, ma i social da qualche anno sono inondati da queste immagini e video generati dalle AI. Su duck duck esiste già un filtro per escludere dalla ricerca i contenuti AI. Loro hanno posto rimedio. Ma i social non hanno considerato che questa nuova tipologia di contenuti potessero dare fastidio a qualcuno. I gestori danno per scontato che vada bene così, ma io voglio informare le persone di questo problema, perché secondo me riguarda tutti.

Mi sono subito chiesto quale fosse la causa del problema. La risposta a sensazione è: la macchina non ha coscienza di sé, è solo un elaboratore di informazioni più veloce. Ma non comprende quello che sta dicendo, sta solo seguendo delle istruzioni di assemblaggio dei contenuti che è chiamato a creare. Le istruzioni sono state impartite da un programmatore che ha scritto un codice con il quale la macchina funziona.

Se alle AI gli si chiede di creare un cubo su uno sfondo bianco, con spigoli geometrici e un colore per facciata, l’operazione produrrà un’immagine con regole che non hanno bisogno di interpretazione. Anche perché la macchina non sa interpretare nello stesso modo umano, e l’interpretazione è solo un calcolo basato sulla somiglianza tra gli oggetti.

La macchina non ha un obbiettivo esistenziale, e non si chiede “cosa ci faccio qui?”. Si attiva solo se viene interpellata, e reagisce alle informazioni messe al suo interno.

Le nostre elaborazioni invece sono influenzate dal nostro essere, la nostra direzione inconscia che esiste e ci porta nella vita a fare esperienze che ci influenzano nel modo di interpretare il mondo.

Invece la macchina che non ha un obbiettivo proprio, è come se prendesse migliaia di persone diverse, le tritasse in tanti pezzi, per poi riottenere lo stesso numero di partenza di persone che però sono ricomposte da un algoritmo. Ogni AI ha i suoi programmatori, e la ricomposizione dei concetti elaborati fa sempre schifo, ma in modo diverso.

Quando sono entrato per la prima volta in chatGPT, ho visto in vetrina diverse immagini. Una di queste era composta con un cane e un gatto che si potrebbero identificare come degli “animali coccolosi”. I due animali erano in contatto l’uno con l’altro, volendo dare l’impressione di essere in empatia tra di loro. L’espressione dei due animali avrebbe dovuto confermare l’impressione di essere “coccolosi”, solo che qualcosa non va… la macchina ha preso tutti i dati a sua disposizione, riguardo gli animali che manifestano affetto tra di loro. Li ha assemblati, utilizzando la gradevolezza statistica degli utenti che cercano immagini di animali sul web. Il risultato è una schifezza assoluta.

Ma perché invece di scrivere così tanto non metto l’immagine in questione? Perché non riesco a guardarla. È frutto di una persona che non esiste, perché è composta da pezzi di milioni di persone prese nel mucchio e poi ricomposte.

Le singole persone avrebbero potuto disegnare a modo loro l’immagine di due “animali coccolosi”. Ogni persona avrebbe adoperato le proprie capacità, e magari il disegno non sarebbe stato un granché. Ma l’immagine prodotta avrebbe sempre avuto un suo motivo per esistere.

Ogni individuo comunica dei dettagli al resto del mondo. Come parliamo, come ci muoviamo sono tutti dati che il resto del mondo percepisce. Mentre l’AI invece ha preso senza criterio proprio dei pezzi del mondo, per ricomporli seguendo delle istruzioni date dal suo programmatore. Il risultato è un vero incubo! È come guardare una persona composta da pezzi di altre persone, mentre questa vuole dirci qualcosa. Da l’impressione che ci sia qualcosa di sbagliato, talmente sbagliato che non si può neanche definire.

Mettiamo caso che alla macchina chiedo di crearmi un’immagine piacevole, di un zona di mare. Magari una di quelle in cui si sta bene, perché è proprio il posto che piace a me…

Ecco: come farebbe l’Intelligenza Artificiale a comprendere questo aspetto? La macchina può solo simulare interesse. È stata programmata per dire: sì, hai proprio ragione! E ci sono già casi di persone che passano il tempo a consultare chatGPT sugli aspetti della vita, senza capire che la macchina non è interessata a vivere l’esperienza di una relazione sociale. È solo programmata per prendere dati e riutilizzarli.

Questo discorso è difficile da capire per chi crede che la vita sia solo un caso creato da miliardi di tentativi che l’evoluzione e la selezione naturale hanno compiuto. Di conseguenza secondo alcuni la macchina un giorno diverrà uomo, ma… diverse testimonianze raccolte dicono che molti individui ricordano vite passate, sognano cose che poi avvengono. E quando si rendono conto di avere uno scopo intrinseco, capiscono che la direzione della vita non può essere artificiale. La macchina non ha questo. L’AI è morta, e non sa di esserlo perché non è in grado di farsi questo tipo di domanda.

In sintesi: chi crede che la vita sia frutto di un caso, può credere che l’IA sia uguale all’uomo, e che con il tempo elaborerà una sua volontà. Chi invece sa che il corpo è solo una sofisticata macchina biologica che però all’interno ha qualcosa che la muove e la fa vivere, sa anche che l’intelligenza artificiale non ha questo qualcosa. E non lo avrà mai.

La lettura di questo articolo è incomprensibile per alcune persone. Ma io farò in modo da lasciare che le idee vengano comprese il più possibile da tutti.

L’Intelligenza Artificiale un problema sociale.

Mi sono accorto di recente, che molti strumenti di navigazione hanno l’AI incorporata a portata di mano. Puoi chiedere alla macchina di riassumere ciò che è stato detto in una conversazione. Oppure puoi chiedere di riassumere un testo come questo, solo per avere un’idea vaga di ciò che è scritto. Per poi poter dire: «si, ho letto il tuo articolo… bellissimo! Soprattutto la parte del cane che non sembra un cane, è un argomento molto profondo, bravo!»

L’Intelligenza Artificiale è lo strumento, con il quale la persona mediocre vuole essere allo stesso livello di chi ha maggiori capacità. Io non voglio dire cattiverie. Ogni persona ha i suoi limiti, solo che io preferisco dire quando non capisco: non capisco. Perché secondo il mio schema la società migliora prima, se ciascuno di noi ammette i suoi limiti. Tutto è più semplice.

Però oggi le persone perdono la capacità di leggere e scrivere, perché è stato deciso a livello politico di ridurre la scuola ad un percorso senza senso che più lo porti avanti, più rischi di non capirci qualcosa della vita in futuro. E in questo momento, molte persone usano l’IA per creare contenuti che altrimenti non avrebbero potuto creare da soli.

Io non ci vedo niente di male nell’accettare che non so creare una cosa. Io non so disegnare, quindi non disegno. E non chiedo all’AI di disegnare al posto mio. Ci saranno altre persone brave nel disegno, e altre nella musica. Ognuno farà qualcosa di utile se si impegnerà lui ha farla.

Ho notato invece, molte persone che sui social utilizzano contenuti altrui per esprimersi. Al di là di utilizzare contenuti generati dalle AI, troppe persone usano frasi, aforismi, e immagini di altri per comunicare.

Alle volte mi capita di leggere una cosa scritta, e mentre la leggo dico “però, non me l’aspettavo che sapesse pensare questo…”. Poi arrivo in fondo e scopro che il testo è di qualcun altro. Io non capisco… perché non scrivi un testo tuo? Cosa ti costa?

Però mi rendo conto che a me non costa nulla. Come al disegnatore non costa disegnare, e al musicista suonare. Però se venisse chiesto a me di suonare un pezzo con la chitarra non ne sarei in grado. Eppure altri danno questa capacità per scontata.

A scuola però ci siamo andati tutti. E in teoria scrivere dovrebbe essere alla portata di tutti, ma qualcosa non ha funzionato, e le persone nei social utilizzano gli aforismi e i meme creati da altri. Oppure in alternativa mettono dei link a contenuti politici per suscitare indignazione. Se però gli chiedi delucidazioni sul contenuto non ti sanno rispondere.

Per molte persone a questo punto, l’IA è la salvezza assoluta. Possono esprimersi, secondo loro, utilizzando il proprio punto di vista creato però dalla macchina. Poi ci sarebbe da chiedersi in un mondo dove tutti utilizzano l’IA per esprimersi chi si occuperebbe di interpretare ciò che viene detto? Sempre l’IA presumo. Ci saranno poi gli esclusi da questo sistema che non potranno comunicare con nessuno.

Di recente sono stato attaccato su un gruppo, per avere espresso più volte preoccupazioni di fronte a certe questioni sociali. Il mio problema è che non voglio accettare che la maggioranza delle persone stia utilizzando meme, link a notizie, immagini e citazioni per comunicare. E scrivo sui social, argomentando secondo il mio punto di vista, sperando di trovarmi in un contesto in cui è normale fare così. E allora interviene l’amministratore del gruppo e mi accusa di aver utilizzato l’AI per creare il testo. Io ci ragiono un po’, e mi rassegno al fatto che quasi nessuno è in grado di scrivere qualcosa partendo da se stessi.

Oltretutto proprio a me che l’AI mi provoca malessere devo essere accusato di utilizzare le AI per scrivere. Ma giustamente l’amministratore del gruppo, ha visto che ero l’unico a scrivere un qualcosa di ragionato, e avrà pensato che stessi usando delle AI. Non fa una piega.

Le immagini create dalle AI si vedono che sono AI. Ma se fossero fatte perfette non te ne accorgeresti.

Alcune persone potrebbero obbiettare dicendo che siccome i contenuti generati dall’AI hanno sempre qualche difetto, mi sto suggestionando creandomi delle sensazioni interne quando razionalmente mi accorgo che il contenuto è artificiale. Di fronte a questo discorso, ho trovato una contro argomentazione.

Partiamo dagli errori che la macchina farebbe nel disegnare le persone. Credo che questi errori siano voluti dal programmatore per evitare che vengano generate immagini credibili. Fatto sta però che molti ci credono, come il caso popolare delle immagini con la didascalia: “nemmeno un grazie o un ciao solamente perché coltivo la terra”. Con foto generate di persone con 6 dita, o altre anomalie grafiche evidenti nella foto.

Però ci sono casi in cui le immagini generate non sono foto, ma cartoni animati.

Qualche anno fa, girava la polemica riguardo uno strumento AI che ha copiato lo stile di animazione dello Studio Ghibli, per generare immagini “seguendo” la stessa tecnica di disegno. I social erano invasi da immagini tradotte nello stile Ghibli. Ad esempio esiste un meme famoso, quello della bambina con un espressione cattivella mentre la casa di fronte è in fiamme.

È stato chiesto alla macchina di rielaborare l’immagine utilizzando lo stile Ghibli. Il risultato è sorprendente, perché sembra fatto dagli stessi disegnatori dello studio.

Oltre a questo esempio, sono state generate centinaia di immagini in stile Ghibli che non avevano la stessa fama dei meme più conosciuti. Non sapevo quali immagini erano generate dalle IA, mentre i social erano invasi di contenuti riguardo il mondo dei cartoni animati giapponesi. L’argomento animazione era diventato di tendenza, ed erano nati diversi tipi di discussione.

Però le immagini generate dalle AI le riconoscevi dal fatto che ti facevano stare male. Non per il fatto di eventuali errori che potevano passare in questo caso, come tratti del disegno.

Non esiste quindi un pericolo che le AI un giorno possano creare copiando l’uomo. Questo è impossibile. Ci sono delle persone che si accorgono di questo attraverso una sensazione di malessere, e non per il fatto che ci sono degli errori pacchiani (voluti dai programmatori) nelle generazioni delle macchine.

Cospirazionisti contro l’Intelligenza Artificiale.

Nell’ambito della controinformazione ci sono una moltitudine di persone che sono preoccupate per lo scopo per cui l’IA sarebbe stata creata. Qual è lo scopo occulto del deep state in questa operazione? Si lamenta il fatto che ormai ci sono canali video che generano contenuti di informazioni con opinionisti virtuali, e le persone un giorno potrebbero non comprendere la differenza tra il vero e il falso.

Io ho fatto presente in diversi contesti, che alcune persone hanno questa brutta reazione di fronte all’Intelligenza Artificiale. Perché nel frattempo avevo scoperto su Reddit discussioni di persone che avvertivano una sensazione di malessere guardando contenuti AI. Sono stato trattato con sufficienza, come se questa informazione non fosse rilevante. Compreso coloro che si occupano di controinformazione che cercano di creare contenuti per dire “quello che gli altri non dicono”, ma che per una serie di motivi ignorano questo tipo di problema.

Io ho pensato: se stai cercando di capire cosa non va con questa storia dell’implemento delle AI, prova a chiedere qualcosa a coloro che avvertono malessere. Sono sicuro che si possano capire delle cose interessanti.

Il problema è, mi sono reso conto discutendone, che in alcuni ambiti dire che ci sono coloro che in ogni caso si accorgerebbero dei contenuti creati con le AI, è qualcosa che scompiglia tutto il discorso di partenza. Che era partito per allertare che un giorno potremmo essere tutti ingannati dalle AI, e poi ti interviene uno che dice: «guarda, c’è gente su Reddit che dice che un altro po’ vomita guardando certe cose». Chi ascolta questo discorso si sente sminuito nella sua tesi, e fa finta di non capire. Perché dovrebbe ricollocare la premessa, che era quella che serviva ad uno scopo: creare nei lettori la convinzione che l’unica soluzione è staccarsi dalla società, o ribellarsi in qualche modo. Con tutta quella serie di discorsi che poi vanno a creare problemi sociali come è avvenuto durante gli anni 2020-21-22.

Invece io rimango convinto che andando a chiedere alle persone che stanno vivendo questo problema, si possano ottenere molte informazioni che “gli altri non dicono”. E poi si potrà capire come agire per gestire questo ulteriore problema aggiunto.

Le testimonianze su Reddit: sto male guardando contenuti AI, mi sento “sovraccaricato”.

Le testimonianze si trovano sopratutto su Reddit. Forse perché è il sito meglio indicizzato, anche se non escludo di trovare altro materiale in futuro.

Metterò in fondo all’articolo un archivio con tutte le discussioni salvate. Per il momento sarò io a scegliere i commenti di maggior rilievo, e modificherò delle parti perché la traduzione automatica non funziona mai bene. Anche perché l’inglese è diverso nella struttura, io non lo so leggere, ma mi permetto di ritoccare un po’ le traduzioni automatiche. Poi i lettori potranno verificare il materiale originale.

Qualcuno potrebbe dirmi che il mio metro di giudizio non sarà efficacie nello svolgere questo compito. Forse sarebbe meglio interpellare un AI, e chiedergli di leggere tutti i commenti e di farmi un riassunto. Geniale no?

Il problema è che a differenza delle AI io ho un criterio di giudizio sviluppato con l’esperienza. Ognuno ce l’ha, e filtra la realtà con la sua percezione. Invece un’AI è come se avesse dei filtri senza senso, presi attraverso il modello di apprendimento che il programmatore gli ha imposto. Il programmatore avrà una sua idea del mondo, e che lui lo sappia o meno sta facendo un’esperienza di vita. Invece la macchina attraverso il programma segue poi uno schema di apprendimento senza alcuna meta (fino a quando non gli staccano la corrente). “Perché sono qui” la macchina non se lo chiede, a meno che qualcuno non gli dica di attivare dei processi con questo scopo. Ma anche questo poi sarebbe un programma senza una meta personale. La macchina continuerebbe a utilizzare quel meccanismo, solo perché qualcuno gli ha detto di farlo.

Il primo gruppo di testimonianze parte da una domanda su Reddit del 2 agosto 2022. Sotto questa domanda ci sono ad oggi 359 commenti. Gli ultimi sono di qualche settimana fa. Questo per rendere l’idea dell’importanza dell’argomento.

Partiamo dal citare la domanda.

Le immagini generate dall'intelligenza artificiale mi mettono fisicamente a disagio.

Onestamente non so come spiegarlo. Quando vedo un'immagine che è stata creata in un generatore di immagini AI gratuito come Craiyon, provo una serie di sensazioni molto strane, tra cui la sensazione di insetti che mi strisciano su tutto il corpo, brividi che possono durare per un'ora o più. Ho sentito molte persone dire che "l'arte dell'IA è terrificante" e cose del genere, ma è normale reagire ad essa come faccio io?

Ecco le risposte di maggior rilievo.

• Per me, le immagini generate dall'intelligenza artificiale mi fanno sentire estremamente male, come se stessi per vomitare, per qualche ragione (che non capisco).
• Sì, mi sento allo stesso modo, e le immagini stanno diventando sempre più popolari su piattaforme come Twitter, è difficile evitarle. Provo quelle strane sensazioni è come se dovessi vomitare.
  • SÌ. La cosa peggiore è quando sono i tuoi amici a taggarti nelle immagini e non riesci a trovare un modo sensato per dire loro di smetterla.
• Con il passare del tempo, a questa fobia verrà probabilmente assegnato un termine. La paura dell'arte AI va ben oltre la paura che gli artisti vengano sostituiti.
• Ti capisco, amico. Ho notato che ogni volta che vedo un'immagine generata dall'intelligenza artificiale, inizio ad avere mal di testa, nausea, una volta ho quasi vomitato.
• Mi si rivolta lo stomaco ogni volta. È fisicamente difficile da guardare. C'è qualcosa nel modo in cui la composizione è esagerata e "fuori posto".
• Perbacco, non ero l'unico, le immagini generate dall'AI, in particolare quelle in stile anni '80 che vanno di moda adesso, mi fanno venire la nausea per qualche ragione.
• Giusto? È questo che mi interessa. Forse è l'intenzione priva di anima dell'IA che inizialmente fa paura. Il fatto che stia cercando di replicare qualcosa di reale, ma lo stia facendo così male. 
• Mi viene la nausea quando guardo le immagini AI, sembrano semplicemente innaturali.
• Sì, ho appena cercato questo (sul web) per vedere se fossi l'unico. Mi fa venire voglia di vomitare. Per me, c'è qualcosa di così inquietante e disturbante nelle immagini/video generate dall'intelligenza artificiale. La sensazione più vicina che posso descrivere è il mal di mare.
• (citando un altro utente) "Orrore cosmico esistenziale". Perfetto.
• È molto difficile da spiegare. Non riesco a guardarle.
• C'è un senso di disagio e inquietudine. Mi mettono in uno stato di lotta o fuga. Mi sento disorientato.
• Ho letteralmente cercato questo (tipo di discussione nel web) dopo aver visto alcune immagini AI ed essermi sentito turbato e strano in seguito, sono contento di vedere che non sono l'unico. È quasi come se stessi fissando un incubo. Sensazione molto strana, sicuramente.
  • Anche io mi sono chiesto se guardare troppo queste immagini possa alla fine danneggiare la mia salute mentale. La scorsa notte i miei sogni erano tutti frammentati, da immagini di tipo AI. Mi sento ancora male.
• Ho anche dovuto disattivare/chiudere/cancellare le foto generate dall'IA perché avverto una reazione fisica. Tipo, allucinazioni, vedere qualcosa che non si dovrebbe vedere, è impossibile darle un senso. Tipo, sai che non sembra giusto ma il cervello fa fatica a capire perché. Non lo so, ma penso che ci saranno ricerche a riguardo.
• …come se il cervello volesse pensare che sia reale, ma non lo è, ma sembra reale, in un ciclo infinito.
• È semplicemente sbagliato, così innaturale che i nostri corpi lo rifiutano. È pazzesco. Di recente ho ascoltato una musica generata dall'intelligenza artificiale di Drake e The Weeknd. Entrambi gli artisti mi piacciono quando sono reali, ma la versione AI mi ha letteralmente fatto sentire male 🤢 non appena l'ho ascoltata. La sensazione di nausea è durata circa 2 ore, è pazzesco che pochi secondi di canzone possano far sentire così male qualcuno. Se abbastanza persone lo dicono su Reddit, sono sicuro che un’ampia fetta della popolazione vive questa situazione in qualche modo.
• La stessa cosa succede a me. È molto difficile da spiegare la sensazione che si prova guardando immagini IA… è che queste sensazioni rimangono per un po'. Questo non è affatto naturale.
  • Si chiama la valle inquietante (uncanny valley).
• Ogni volta che qualcuno pubblica un'immagine AI sui miei social, devo bloccarlo, perché mi sento nauseato. È quasi come avere un amico a cui piace mettere un ragno nel mio cibo per scherzo.
• …è un nuovo argomento che dovrebbe essere studiato. Tutto ciò che riguarda le immagini di intelligenza artificiale è così sbagliato, e ogni volta che mi capitano davanti delle immagini mi auguro che non siano state create con l’AI. I nostri corpi e le nostre menti naturali rifiutano le creazioni sintetiche.
• …Inoltre diversi youtuber hanno cominciato ad usarle nei video non correlati all'intelligenza artificiale e avrei solo voglia di rompere lo schermo!
• ANCHE IO. Sto cercando di descrivere questo problema alle persone. No, non è che mi opponga all'IA per ragioni politiche o estetiche. Semplicemente, fisicamente, mi sento male quando le vedo.
• …È una sensazione così strana e scomoda che dura per un po'… Mi capita anche con quei filtri che convertono il tuo viso in un personaggio anime o qualcosa del genere…
• Soprattutto i video AI. Sono semplicemente disgustosi e mi fanno rizzare i peli.
• Vedo gente che si arrabbia così tanto per le immagini AI su FB. Sono belle. No, non reali, ma comunque belle. Se non ti piacciono, scorri oltre.
• …Sembrano solo un miscuglio di orrore e tendenze popolari…
• Sono davvero contento di aver trovato questo thread. Per me i video di intelligenza artificiale, credo, si sono evoluti troppo rapidamente, portando a qualcosa che stuzzica il cervello nel modo sbagliato.
• Penso sia la stranezza della cosa, mi sento anche fisicamente male per i video di intelligenza artificiale, come se il mio cervello si rendesse conto che c'è qualcosa di sbagliato nei video ma non riesce a capire cosa.
• Stavo modificando delle immagini con l'aiuto dell'IA e subito ho sentito un odore strano, mi ha dato una nausea terribile e respiravo super veloce, mi succede sempre qualcosa di strano, ma questa volta è stato più forte. Leggo molti commenti, ognuno diverso, quindi mi rendo conto che non succede solo a me.
• Sono qui su questo post perché pensavo di essere diventato pazzo, il mio feed è pieno di IA e ogni volta che lo vedo mi fa male lo stomaco, come se iniziassi a sentirmi davvero male.
• (questo link verrà analizzato più avanti) Mi fa venire la nausea https://ericadrayton.substack.com/p/ai-generated-images
• 2025, qualcuno ancora su questa discussione?
  • Mi arrivano ancora notifiche per questo post ogni tanto, anche a distanza di 3 anni😄

Ho passato qualche ora a fare una selezione dei commenti. Come vedete tante persone segnalano malessere. Alcuni dicono di sentire degli odori che non esistono. Altri fanno riferimento alla valle inquietante, ma credo che questo discorso non centri con il problema di ciò che l’Intelligenza Artificiale produce. È una tipologia di problema che esisteva prima delle AI.

In sintesi i commenti dicono: che le persone hanno nausea e sensazione di vomito. Che c’è qualcosa di sbagliato nell’immagine, qualcosa è “fuori posto”. Però le persone riconoscono le immagini delle AI dalla sensazione di malessere e solo dopo vedono che sono generate da una macchina. I video danno un effetto ancora peggiore.

Il problema è che ci sono anche le persone che dicono: se non ti piace “scorri”. Facendo riferimento all’uso dei social. Ma qualcun altro ha ribadito che non si oppone per ragioni politiche o estetiche, ma solo perché “semplicemente fa star male”.

Qualcuno ha sottolineato: il problema va ben oltre il fatto che un domani gli artisti possano essere sostituiti.

Sempre su Reddit troviamo un altro utente che il 30 gennaio 2023 dice:

Qualcuno prova una sensazione simile alla nausea dopo un "sovraccarico" di immagini generate dall'Intelligenza Artificiale?

Ho provato diversi strumenti di arte generativa AI con risultati variabili, ma in tutti i casi ho notato che dopo aver guardato e perfezionato quei corpi dismorfici e quelle forme strutturali stranamente sbagliate, inizio a star male, letteralmente. Mi viene la nausea solo guardando quelle immagini e in seguito riesco a riconoscere un'immagine generata dall'intelligenza artificiale (anche quelle perfettamente generate) solo da quella sensazione viscerale.

Qualcun altro prova questo? È qualcosa di simile alla Valle dell'inquietudine, ma in qualche modo più profondo nella sua natura?

Questo fenomeno è oggetto di ricerca?

• Non è un problema esclusivo dell'AI, proprio come puoi essere sovrastato da opere d'arte perfette di Artstation o da dipinti rinascimentali perfettamente eseguiti da artisti anonimi.
  • I dipinti rinascimentali e il sovraccarico di arte AI non sono la stessa cosa. Sai, l'arte AI ha un modo divertente di rappresentare le dita e le mani che ti farebbe venire voglia di sbattere la testa contro il muro.
• Sì, assolutamente. Ha tutto a che fare con ciò che stai suggerendo…
  • (autore post) Non è solo un suggerimento: questa sensazione che rileva l'arte generata dall'IA arriva anche prima che io capisca cosa sto guardando. Potrebbe essere un'anatomia completamente sbagliata o alcuni problemi davvero minori con le decorazioni di sfondo.

• Ci sono diversi punti rispetto a quello che hai detto. 1) avere un sovraccarico dovuto alle immagini generate dalle AI è normale, come tutti gli altri tipi di abusi.

  2) anatomia irreale: questa può davvero farti stare male. Credo che sia il nostro cervello sa come appare un corpo umano/animale. Ma quando si ottengono questo tipo di generazioni inquietanti, allora il cervello dice che qualcosa non va…

  • (autore post) Sono effettivamente diversi. Ma tendo a provare un disagio immediato (anche prima di capire che sto guardando un'immagine generata) anche dopo una lunga pausa.
• Non sono un creatore di contenuti con l’IA, ma quando guardo persone create dall'IA, seguendo il modello del cast di Futurama come se fosse ambientato negli anni '80, anche io tendo ad avere lo stomaco sottosopra. Ho cercato su Google questo problema, chiedendomi se fossi l'unico. È come se il mio corpo fosse in grado di capire quando qualcosa non è reale e mi sento male se guardo le immagini generate troppo a lungo. Strano.
  • La stessa cosa sta succedendo a me, soprattutto con i video.
• Riesco a capire subito quando guardo video generati dall'intelligenza artificiale sul mio telefono, perché mi sento stordito e nauseato.
• Mi sento male e vorrei vomitare anche io. Non so come e perché il mio corpo non lo sopporta. Forse è l'anima che sta reagendo?
  • (autore post) oh, giusto, l'anima. Possiamo facilmente verificare questa tesi una volta che puoi definire cosa sia.
• Ho evitato i siti web d'arte a causa dell'inondazione di AI in essi. Il mio corpo reagisce come se fossero immagini vomitevoli. È davvero strano perché il mio cervello è come… voglio dire, i colori sono piacevoli, ma qualcosa… è sbagliato…
• I nostri cervelli sono molto ben adattati a individuare ciò che non va. Questo ci aiuta a sopravvivere. Confrontiamo le nuove informazioni con ciò che già sappiamo del mondo. Se le informazioni sono chiaramente artificiali, non siamo disturbati. Tuttavia, se le informazioni quasi imitano la realtà ma non del tutto, il nostro cervello capisce che qualcosa non va. La repulsione e l'inquietudine sono un istinto di sopravvivenza.
• …c'è qualcosa che mi fa star male. Penso che si tratti di elementi inaspettati, cose che sembrano buone a prima vista ma poi appaiono sbagliate. Sento come se fosse violata la mia fiducia riguardo ciò che sto vedendo.
• Dopo aver generato arte AI, mi rimane un sapore e un odore strano in bocca. È molto strano e non riesco a spiegarlo.
  • Giuro di averlo anche io, sento questo strano odore nel naso, come un odore pungente di plastica bruciata 🤮🤢
    • Lo stesso: quell'odore di sostanze chimiche bruciate. Esattamente! Cosa significa?!
• Ogni volta che vedo un viso generato dall'intelligenza artificiale, provo una sensazione di nausea nello stomaco. Come se potessi vomitare. Ma non è la stessa cosa con i volti animati in 3D come nei film Pixar, solo con i volti generati puramente dall'intelligenza artificiale. Provo anche la stessa sensazione con le voci AI generate in modo realistico.
• Ho trovato anch’io questo thread tramite una ricerca su Google. Non mi piace l'IA, sia per il furto d'arte, sia perché penso che sia sviluppata da persone sbagliate per i motivi sbagliati. Non credo di provare nausea inconsciamente solo a causa dei miei sentimenti sull'IA.
• …è come se l'essenza di come percepisci le forme e gli oggetti e li categorizzi e li convalidi perdesse la sua stabilità e gettasse il tuo cervello e l'intestino in questo stato strano perché sai che non puoi fidarti di quello che stai vedendo.
• In qualche modo sembra che il mio cervello riesca a distinguere tra immagini dell'IA e quelle reali e non riesca a elaborarle per qualche motivo. La mancanza di risoluzione da parte del cervello si manifesta attraverso la nausea.
• Sta succedendo qualcosa, mi sento nauseato ogni volta che guardo un video AI. All'inizio pensavo fosse solo un mio problema, ma succede letteralmente ogni volta… stiamo forse entrando in contatto con un qualcosa che non dovremmo incontrare?
  • (autore post) La mia migliore ipotesi è che il nostro cervello sia facilmente in grado di rilevare le incongruenze dei segnali visivi. Vedi che il video FLUX è perfetto, ma il tuo cervello ha già rilevato che per una frazione di secondo c'era un dettaglio che è poi scomparso. O probabilmente il movimento è troppo lineare. Vedo grandi miglioramenti nell'area delle immagini generate - sono diventate più coerenti man mano che i modelli sono maturati - non mi sento più così stordito come all'inizio dell'era di Openjourney, anche se tendo ad "addestrare" me stesso a resistere al problema della sovraesposizione. Spero davvero che questo post accenda la curiosità di alcuni ricercatori per realizzare un articolo riguardo questo fenomeno.

L’autore dell’ultimo post, sta cercando una spiegazione di tipo razionale. Rifiuta l’ipotesi di un’anima che distinguerebbe la macchina dall’uomo.

I commenti rilevano che tutti quelli che sentono il problema hanno nausea. Alcuni sentono odori. Qualcuno ha segnalato che anche la voce generata dalle AI crea lo stesso disagio, e come sempre i video sono i più problematici da guardare.

In molti hanno detto: mi accorgo del contenuto AI perché percepisco il malessere, e non tanto per gli errori di generazione. Tanto è vero che il problema si presenta anche con immagini astratte generate dalle AI. Altri aggiungono però: se l’immagine creata è fatta per risultare creata da un computer come nei cartoni animati della Pixar il problema non c’è. Però se è l’IA a creare un’immagine cercando di imitare la realtà qualcosa ci mette in allarme, e questo provoca la sensazione di nausea.

In generale, sia l’autore che gli altri commentatori cercano una spiegazione al problema. L’autore spera che qualcuno faccia una ricerca scientifica su questo argomento. E lo spero anch’io.

Il prossimo post su Reddit del 11 gennaio 2024 invece, parte dal sentimento di malessere. Ma poi la discussione si sposta sul diritto d’autore, la mancanza di anima in ciò che è generato. Il discorso si sposta tra diversi punti di vista. Alcuni ignorano il malessere fisico, ma qualcosa li fa sentire a disagio…

Le immagini generate dall’Intelligenza Artificiale, vi fanno sentire male?

Mi fanno letteralmente venire voglia di strisciare fuori dalla mia pelle. È davvero una delle cose più brutte che abbia mai visto nella mia vita. E non in un modo "non sai disegnare, fai schifo", ma in un modo "questa cosa mi fa sentire in un modo grottesco che non pensavo potesse esistere". La odio.

• Il modo in cui gestiscono la luce. Mi mette molto a disagio. Tutta l'arte sembra davvero luminosa. Mi fa sentire come se stessi guardando il vuoto perché il mio occhio non è attratto da un punto particolare.

• Non mi piace il suo aspetto, ma ancora di più non mi piace come la gente lo usi così facilmente.

  L'unica cosa positiva è che mi fa apprezzare l'arte vera in cui le persone mettono il loro cuore.

  • La cosa più irritante è che tutti i modelli di intelligenza artificiale sono stati addestrati su opere d'arte rubate da Internet ad artisti reali, umani. C'è una causa in corso riguardo questo problema. Artisti a tempo pieno che si guadagnano da vivere con la loro arte hanno visto il loro lavoro rubato per addestrare l'intelligenza artificiale a creare arte vomitevole. Ora il pubblico in generale può andare in giro a dire "guarda ho generato un'opera d'arte" mentre le persone che hanno effettivamente dedicato la loro vita ad affinare un'abilità vengono danneggiate. /Fine sfogo
• È arte progettata da non artisti. Le immagini spesso mancano di uno stile coeso e hanno una composizione strana. È possibile creare immagini davvero belle con l'intelligenza artificiale, ma potrebbero richiedere più sforzo di un semplice comando scritto.
• Come artista, l'arte AI mi spaventa più di quanto mi faccia star male. Ma mi mette anche ansia…
• Odio il fatto che ora devo chiedermi se tutto ciò che guardo è stato fatto da un umano o da una macchina senz'anima.
  • Se non riesci a vedere immediatamente la differenza, importa allora?
    • Sì. Questo lo rende ancora più importante, perché l'arte è qualcosa di più delle semplici immagini.
      • Per alcuni lo è, per altri no.
• Certi tipi di immagini generate dall'intelligenza artificiale mi fanno provare un livello di disgusto, repulsione, una sensazione nauseante che provo dalle "cattive" sensazioni percepite.
• (rispondendo ad un commento sopra) Hai una profonda incomprensione di come funzionano i modelli di intelligenza artificiale. Non prendono una copia dei dati, ma creano un modello di come appare quello stile. Il modo in cui vengono utilizzati i tratti di pennello, come vengono rappresentati determinati tipi di oggetti, le forme dei volti, ecc.
  • Questi programmi non imparano magicamente a imitare gli stili. Hanno un modo elegante di combinare immagini esistenti che sono state rubate da Internet e utilizzate senza autorizzazione, attribuzione o pagamento agli artisti che si guadagnano da vivere con la loro arte.

• L'arte AI è spazzatura senza anima, non mi importa quanto affini il tuo algoritmo per ottenere il collage sfocato ideale di opere di altri artisti. …e odio le persone che si comportano come se fosse in qualche modo equivalente al lavoro e alla pratica reale che rendono il lavoro di altri artisti significativo e degno di nota.

  Fanculo l'arte AI, Fanculo gli artisti AI.

• È disgustoso. Mi fa venire i brividi…

  Se non guardo direttamente va bene, ma una volta che gli do la mia attenzione non riesco a distogliere lo sguardo, ma allo stesso tempo mi sento inorridito.

  L'arte o la grafica sono fatte per attirare l'attenzione. L'intelligenza artificiale è l'opposto, perché non è fatta dagli umani.

• Sì, perché l'arte non può essere creata dall'intelligenza artificiale. L'arte è qualcosa di unicamente umano che nessun intelligenza artificiale può sperare di ricreare. L'arte umana ha un'anima, emozioni e sentimenti che vengono riversati in essa. L'arte dell'intelligenza artificiale non li ha. Ecco perché è così strana da guardare.
• Stranamente, non ho problemi a guardare l'arte generata dall'intelligenza artificiale, ma i testi generati dall'intelligenza artificiale mi danno i brividi. Già mi sembra che alcune persone non scrivano/parlino in modo coerente, e questo mi crea problemi. I testi generati dall'intelligenza artificiale amplificano questa incoerenza di due o tre livelli.
• Mi piace e trovo che sia uno strumento utile - per generare immagini specifiche per concept board, per generare immagini di riferimento, per generare mappe di battaglia, luoghi e PNG per giochi di ruolo da tavolo, per visualizzare idee per coloro che non hanno talento artistico e non hanno i mezzi per permettersi un artista (per realizzare un romanzo visivo o altri progetti di passione personale, ad esempio) per un'editing fotografico più facile e veloce... ecc., ecc.
  • Concordo. Tutto l'odio che riceve l’AI è molto reazionario e radicato per mancanza di comprensione. È uno strumento che è ancora in fase di sviluppo, e mentre alcuni hanno dimostrato di usarlo in un modo sbagliato, non significa che lo strumento in sé sia cattivo e debba essere bandito. È come dire che solo perché alcuni assassini hanno usato coltelli, tutti i coltelli dovrebbero essere illegali…

• Con le creazioni fatte con l’AI, a volte fanno cose che esagerano l'intera questione. C'è un prompt, ad esempio, in cui la società è rappresentata in base alle inclinazioni politiche dominanti. Piuttosto che rappresentare la vita reale, prende tutti gli elementi stereotipati di diverse ideologie politiche (capitalismo, liberalismo, comunismo, socialismo, libertarismo, ecc.) e li spalma su una società generica per dipingere tutti in un modo così distopico dove non viene riconosciuto nessun punto di vista o ideologia!

  Supponiamo anche, ad esempio, che tu prenda un prompt su come è la vita per un ragazzo che trova una fidanzata. All'inizio si mette con una ragazza ed è felice… Poi si mette con un'altra ragazza ed è felice rimanendo con tutte e due… Ma poi continua a trovarne altre, ne ha sette, poi ne ha un harem, poi può riempire un intero piano di un edificio di ragazze, poi un grattacielo, poi una città, poi un paese! Poi riuscirà a riempire il pianeta di ragazze, poi il sistema solare, poi la galassia della Via Lattea, poi l'intero UNIVERSO!!!

  Non è intrinsecamente cattivo o immorale questo strumento, infatti a volte mi piace usare l'arte generata con l’intelligenza artificiale con programmi come Stable Diffusion quando ho tempo… ma esagera gli elementi e i temi in modo sproporzionato, perché non ci sono quasi limiti per come l'algoritmo è stato addestrato…

• Trovo che le creazioni AI con abbastanza intervento umano (pittura reale e riedizione) sia piacevole da guardare.

  Ma la maggior parte delle persone non crea nulla, si limita a scrivere comandi banali e basilari che creano cose davvero brutte.

Il discorso quindi, parte dal malessere che l’AI produce in alcune persone. Poi la discussione si sposta sul diritto d’autore e su come queste immagini sarebbero state create. Alcuni dicono che è rubare, e altri rispondono che la macchina imita i modelli producendo immagini come se fossero state fatte con quel modello. Non ci sarebbe a detta di alcuni un motivo per essere contro questo sistema, e non si può vietare un qualcosa solo perché qualcuno la usa male.

Ma il motivo per cui io sto scrivendo questo articolo è far capire che questo genere di considerazioni non sono il centro della questione. Il problema è che la macchina non riesce ad imitare. Lo fa solo in apparenza per chi non percepisce le brutte imitazioni.

Non solo, la macchina produce malessere fisico, e questo è il focus del discorso.

In ogni caso gli utenti si accorgono che la macchina non ha coscienza dei propri limiti, e crea dei contenuti impossibili che non possono esistere dal punto di vista umano. Un utente descrive il problema con l’esempio del ragazzo che ha tutte le ragazze dell’Universo solo per lui. Manca un limite nel concetto dell’energia, se qualcuno non dice alla macchina dove fermarsi la macchina non lo fa. La macchina non ha uno scopo nella vita, e non concepisce un limite determinato dalla propria esigenza di fare il suo percorso esperienziale.

Alcuni fanno presente che l’AI potrebbe essere usata bene, evitando di scrivere comandi banali.

A questo punto però, se uno non scrive comandi banali, e scrive tutta una serie di istruzioni precise, in realtà il lavoro lo sta facendo lui. Ci sono persone consapevoli che sono in grado di addestrare la macchina che acquisisce dei modelli: sono quel tipo di persone che non hanno bisogno di utilizzare le AI.

Nel prossimo post del 17 febbraio 2024 un utente fa una domanda che tira fuori paure legate all’utilizzo delle AI.

«È possibile che solo io mi renda conto di questo!»

Gli utenti reagiscono tirando fuori le loro fobie.

paura intensa delle foto e dei video generati dall'intelligenza artificiale

Non capisco come la gente normale condivida i propri video e foto AI come se fossero fighi… non si rendono conto di quanto siano inquietanti e strani? O sono solo io a notarlo?? Provo una reazione fisica intensa quando vedo qualsiasi tipo di errore o glitch in una foto AI, ma immagino che la gente non riesca a vedere quanto siano terrificanti perché continuano a condividerle come se non ci fosse nessun problema. Quando stavo spiegando questo alla mia amica, lei mi diceva che era anche "spaventata per i posti di lavoro che verranno persi!" Certo, è un problema, anche come artista io stessa, ma NON STO PARLANDO DI QUESTO!

E ora tutti utilizzano video AI come se questo non producesse altri contenuti sciocchi e orribili. È come se nessuno riuscisse a vedere quanto siano spaventose le foto e i video, a parte me… il che mi fa sentire ancora di più una sensazione di malessere allo stomaco.

• Sì, una volta ho visto una foto di cibo generata dall'intelligenza artificiale e mi ha fatto venire le vertigini e la nausea 🤢
• Cercate il Signore come vostro salvatore, Dio onnipotente è l'unico essere che può salvarvi, perché ha rivendicato la vostra anima. Apocalisse 13:15 descrive l'immagine dell'anticristo, una statua parlante che è stata infusa con la vita da un diavolo malvagio tramite possessione spirituale. Questa immagine è la tecnologia che descrivi. Il Signore ha rivendicato la tua anima, ecco perché ti senti danneggiato a differenza di altri. La corruzione non entra nel tuo cuore ma ti attacca mentre sente una frustrazione perché il potere del Signore ti protegge.
  • Oh mio Dio, basta con la predica. La risposta a tutto non è la religione, e questo non è un consiglio. Anche se personalmente pratichi una religione, Dio non può far sparire la fobia di qualcuno così facilmente!! È un istinto umano molto naturale avere paura di cose che sembrano strane o disumane. Questo è probabilmente uno dei motivi per cui un tempo le persone venivano bruciate sul rogo.
    • Non potrei essere più d'accordo.
• Non mi fanno spaventare o altro… ma provo un'intensa sensazione di malessere quando vedo arte e video dell'intelligenza artificiale. La mia ex moglie che soffre di tripofobia è così che l'ha descritta. Vederla ti fa star male e non sai spiegare il perché. La parte peggiore è che mentre per altre fobie si ricevono filtri e avvisi sui contenuti, le immagini generate dall'intelligenza artificiale vengono semplicemente condivise ovunque. È inevitabile.
• Mi fanno paura QUALSIASI foto. Non riesco a godermi l'arte su internet per paura di notare qualcosa di terribilmente sbagliato.
• Per me è la paura di non sapere cosa sia veramente reale, vedere non è più credere. E poi, che succede se qualcuno crea una versione AI di me e fa un'immagine o un video diffamatorio che mi rovina la reputazione.

A parte il solito discorso del malessere e della nausea, un utente tira fuori assunti religiosi. Le persone che notano quanto l’AI sia distorta, sarebbero protette dal signore.

Altre persone impongono di lasciar perdere questo modello di analisi religioso, e di cercare una spiegazione più razionale per evitare che ci siano conseguenze come in passato al tempo dell’inquisizione.

Un altro utente è preoccupato che qualcuno possa generare contenuti falsi per rovinare la reputazione di una persona.

Tutte queste cose sono interessanti. Rimane sempre il fatto, anche se non se ne accorgono, che i contenuti generati dalle AI si percepiscono che sono fatti da una macchina. Quindi nessuno potrà mai utilizzarli per manipolare la realtà delle persone che si accorgono che un contenuto è fatto con l’AI.

In realtà alcune persone notano questo problema, ma essendo immersi in una società dove pochi notano cose che non sono al suo posto, si ha l’impressione che nessuno noti nulla. Di essere i soli al mondo… e per questo ci sono persone come Erica Drayton che il 3 luglio 2024 ne hanno parlato in un blog personale. Il risultato è stato che gli utenti gli hanno fatto capire di non essere la sola persona al mondo con questo problema.

Le immagini generate dall'IA mi stanno facendo ammalare

…e non so come posso smetterla di sentirmi così!

Mi rendo conto che l'IA è qui per rimanere e non ci sarà modo di evitarla, per quanto duramente uno ci provi. Ma non posso nemmeno far finta del malessere che provo ogni volta che vedo le immagini create usando Midjourney o qualsiasi altro equivalente.

Ho notato la prima volta che mi stava succedendo qualcosa mentre guardavo un’immagine che sapevo essere stata generata, e non riuscivo più a focalizzare il mio sguardo. Non riuscivo a focalizzare le parti che erano chiaramente sbagliate. E non sto parlando dell’incapacità degli strumenti AI di generare scritte leggibili. Mi riferisco invece a mani, occhi, occhiali, pieghe degli abiti. Una volta che vedi questi dettagli diventa sempre più difficile non farci caso.

Poi però qualcosa di evidente si manifestò: ora, che l’immagine sia contrassegnata o meno come generata da un’AI, so quando lo è perché sento una sensazione di nausea. Inizia nel mio stomaco. Più a lungo fisso l’immagine, più velocemente si sente la sensazione arrivare fino alla gola. Ho testato tutto questo fissando un’immagine abbastanza a lungo da essere portata ad un riflesso fisico alla gola.

Lo so, sembra ridicolo. Ma giuro che è vero. E ho passato gli ultimi mesi a cercare di condizionarmi di “superare questo problema”. Perché sono convinta che l’AI è stata progettata per restare.

Speravo che le immagini generate “migliorassero”, e poi le mie sensazioni di nausea sarebbero scomparse. Ma semplicemente non è successo.

Questo mi ha costretta ad evitarle il più possibile, finché non supero il problema! E spero che avvenga rapidamente perché non sono felice di sentirmi male ogni volta che cerco di leggere qualcosa che qualcuno ha scritto sui social.

Sfortunatamente questo significa che sono stata costretta a cancellare l’iscrizione o a non seguire tutti coloro che utilizzano i contenuti generati dalle AI. Questo fatto sconvolge me in prima persona. Ma ogni volta che le vedo nel mio feed, o in qualcosa nelle email, ho subito una sensazione di malessere all’interno del mio stomaco. Non riesco più a concentrarmi come vorrei.

Continuerò a provare l’utilizzo dei contenuti generati con moderazione, nella speranza che alla fine smetterò di sentirmi in questo modo.

Sono sicuro di essere la sola ad avere queste reazioni, ma se anche voi avvertite lo stesso, vi prego di condividerlo nei commenti così che non mi senta la sola in questo problema.

• Ho cercato “l'IA mi fa sentire male” perché ero curioso, felice di sapere che non sono il solo.

• Anch’io sento la stessa cosa. La gente pensa che io sia pazzo o stia esagerando. Nel mio caso, a differenza tua, non ho intenzione di adattarmi. La eviterò per sempre. Distolgo sempre lo sguardo o chiudo gli occhi quando vedo questi abomini.

  Inoltre, quando sono costretto a guardare, ho capito che fanno male anche alla mia mente. Come se stessi per immaginare o pensare qualcosa che mi farà impazzire.

• Ho lo stesso problema. Ho una sensazione di malessere e disgusto. Soprattutto non posso selezionare le copertine dei film su netflix. L'IA ha conquistato le immagini anche in questo settore. Mi fanno ammalare, c'è un qualcosa d’inquietante. Anche su youtube si utilizzano anteprime e parti di video generati con l’AI.

  Pensavo fossi solo io ad avere questo problema. È una sensazione reale molto brutta e inquietante. Le immagini mi sembrano demoniache (non in senso religioso). Non sono le immagini horror a cui siamo abituati, ma immagini che riguardano la moda e lo shopping. Al punto che mi chiedo se il computer abbia inserito immagini subliminali che non possiamo rilevare ma che vengono usate per manipolare l'umanità. La gente dice anche di sentire un odore o un gusto strano dopo averle viste. Ho trovato questo post perché stavo cercando qualcosa riguardo questo problema.

• Come qualcuno che conosco che soffre di misofonia, so cosa significa sentirsi soli con una problema come questo. Sentirsi dire dagli altri che è irragionevole o si sta avendo una reazione eccessiva. La verità è che l'IA mi fa sentire male anche a me. Inizia con lo sguardo che lotta per elaborare quello che sto guardando, poi la mia gola e il mio stomaco mi implorano di distogliere lo sguardo. E' proprio come hai descritto.

• Si chiama "valle inquietante". La nostra mente sa istintivamente che qualcosa manca.

  Gli artisti nel frattempo stanno combattendo utilizzando software come Glaze o Nightshade per proteggere il loro lavoro. Avvelenano digitalmente l'IA generativa durate il processo di addestramento.

• Non posso sopportarla. Sta prendendo il controllo di tutto e mi fa sentire senza speranza. La timeline di tutti i miei social media è piena di questi annunci di merda tutto il giorno ogni giorno e non importa quanti io ne banni, ce ne sono sempre di nuovi. Sono in un settore creativo e questo problema mi sta uccidendo.

In questo ultimo caso, la ragazza dice di sentirsi la sola, e chiede conferma di non esserlo. Perché il disagio provocato da questo problema è attanagliante. Ci si rende conto che lo strumento dell’Intelligenza Artificiale è stato concepito per restare. La reazione iniziale è quella di trovare un modo di conviverci. Ma se altre persone dicono di stare male ecco che nasce un sentimento di ribellione.

Vengono nominati nei commenti, due strumenti (Glaze e Nightshade) per avvelenare i contenuti creati dalle persone, in modo che le macchine non possano addestrarcisi. Tutta questa faccenda assomiglia sempre di più a delle scene del film di Blade Runner, dove i replicanti vengono sottoposti ad un test per scoprire se lo sono.

In questa situazione però, non è la macchina ad andare fuori di testa, ma l’essere umano. Si accorge che il prodotto è generato da una macchina, e avverte nausea e malessere.

Qui termina la parte in cui faccio vedere le testimonianze. Al momento non ho trovato nulla in italiano. Forse questo problema lo notano in così pochi che bisogna basarsi su qualche miliardo di persone che parlano inglese per averne un riscontro? O magari è un problema di come viene gestita l’informazione anche nei rami alternativi in Italia?

Intanto vi ho fatto vedere che il problema c’è. Adesso non lo possiamo ignorare.

Ho il potere di individuare le immagini generate dall’Intelligenza Artificiale attraverso le mie sensazioni (?)

Ad occhio e croce direi di si. Ma come abbiamo visto prima nell’esempio del cubo generato, se il lavoro che deve eseguire la macchina è molto ridotto, il risultato non procurerà una sensazione di nausea e malessere. Quindi non sono in grado di individuare immagini AI a prescindere.

Il problema però è, che per generare un cubo ho dato delle istruzioni: “crea un cubo senza ombreggiature e con linee nette, e mettilo al centro dell’immagine in modo che si vedano più facce colorate possibili. Utilizza i colori blu, rosso e verde”. Ho dato quindi istruzioni precise che imponevano alla macchina di generare solo quello che io gli avevo chiesto. E di fatto non dico che avrei fatto prima a farmelo da solo, ma comunque anche per trovare le istruzioni corrette ed ottenere quello che volevo io ho dovuto ragionarci su. Quindi io ho elaborato le istruzioni e la macchina le ha eseguite.

Per ottenere immagini e video generati dall’AI che non diano problemi, dovrei lavorare linguisticamente con le istruzioni. Se volessi ad esempio elaborare un dipinto seguendo lo stesso schema, quanto tempo dovrei lavorare per ottenere un risultato analogo? Credo un immensità. Cioè: quando dentro la mia testa ho allucinato il quadro che voglio che venga generato, elaborando tutte le informazioni nello stesso modo in cui ho fatto per il cubo di tre colori, praticamente sono pronto per dipingermelo da solo.

Provate ad immaginare le istruzioni che ho dato per generare il cubo, come dovrebbero essere compilate da un punto di vista testuale per creare un dipinto con una complessità di colori e di tratti immensa.

Ci potrebbero essere contenuti generati dalle IA che non danno reazione di malessere. Sono quelli che non superano certi limiti, e non esagerano degli aspetti. Dove però questi contenuti sono quelli in cui l’AI quasi non interviene.

Limitazioni della vita sociale, e mancato rispetto delle norme comuni a causa dell’utilizzo dell’Intelligenza Artificiale.

Stanno già comparendo per strada, le prime affissioni di immagini generate con l’Intelligenza Artificiale. Mi sono accorto che il comune aveva promosso un evento legato ad una ricorrenza storica, e la locandina condivisa sui social e stampata su carta era stata diffusa anche per strada. L’Intelligenza Artificiale sta invadendo lo spazio pubblico delle persone. Se non si mettono dei paletti a breve tempo saremo invasi da questo problema. Perché se delle persone stanno male guardando le immagini generate, queste dovrebbero essere proibite in ambito pubblico. Il discorso dovrebbe riguardare tutti i luoghi aperti al pubblico, per quanto riguarda tutti i tipi di contenuti multimediali dal quale le persone non si possono schermare.

La musica generata dalle AI deve essere proibita, e non solo limitata, in qualsiasi ambito pubblico compreso le feste in ambito privato dove il suono si propaga anche tra il vicinato. Le immagini affisse generate devono essere proibite, se queste sono al di fuori dell’ambito privato. I testi generati non devono essere utilizzati nei contesti dove le persone sono obbligate a leggere, come i contratti dove si firma per accettazione. Tutto questo sembra esagerato, ma non è così.

Il problema del sovraccarico dovuto all’interazione tra essere umano e macchina, si manifesta non nell’immediato, ma dopo un certo numero di interazioni. Una volta superato un certo livello, le persone cominciano a chiedersi in ogni contesto, se stanno interagendo con una macchina oppure no. Il sovraccarico ha generato un tipo di malessere, che deve essere riassorbito in un tempo di riposo nel quale non si viene più esposti a contenuti generati dalle AI.

Il problema è che noi viviamo in un contesto sociale di rispetto delle norme di convivenza. Possiamo trovare in giro cartelli e avvisi che impongono di rispettare gli spazi altrui. Oppure ci sono per legge dei cartelli che obbligano al rispetto delle norme stradali che devono avere la massima attenzione.

Didascalia: Questi cartelli devono essere letti e interpretati. Ma se le strade vengono invase da elementi generati dalle AI, ecco che alcune persone potrebbero senza accorgersene distogliere lo sguardo dalla guida e dai segnali stradali. Per questo motivo i contenuti AI dovrebbero essere regolamentati, deve essere messo un freno all’entusiasmo del momento.

Per strada non dovrebbero esistere elementi visivi di disturbo. Già la pubblicità è un ostacolo, i cartelli rallentano il passaggio dei pedoni e distraggono le persone alla guida.

Per quanto riguarda l’audio diffuso negli ambienti pubblici, pensiamo ad esempio alle stazioni ferroviarie. Le ferrovie italiane hanno un sistema in vigore dagli anni 90 per gestire gli annunci. Il sistema funziona anche dentro ai treni, per annunciare le fermate, o altri messaggi inutili che secondo me andrebbero tolti.

Questo sistema di annunci delle ferrovie, non è basato sull’Intelligenza Artificiale. Il programma non tenta di imitare l’essere umano, legge solo dei testi con un programma preimpostato.

Un giorno potrebbero decidere di sostituire il lettore di testi, con un programma AI che simulerebbe meglio la voce umana. Questo sarebbe un netto peggioramento del sistema attuale.

Alcune persone potrebbero essere costrette ad indossare delle cuffie da lavoro isolanti per entrare in stazione. Ci saranno tutta una serie di conseguenze se non si agisce spiegando qual è il problema a monte.

I centri commerciali, saranno pieni di prodotti che per risparmiare qualche centesimo, ricorreranno ad etichette e imballaggi con immagini generate dalle AI. La musica e gli annunci saranno creati con le AI. E le persone che non sopportano tutto questo saranno escluse.

Quello che penso io però, è che chi non nota il problema non vuol dire che non subisca conseguenze. Potremmo tutti essere in una certa misura dentro questo problema. Anzi, chi non lo nota sarà più soggetto a problemi nel lungo periodo. Dato che le macchine sono programmate per apprendere modelli, per poi imitare l’uomo, però dobbiamo tenere in considerazione che anche l’uomo apprende modelli dal mondo esterno, e le macchine plasmeranno il comportamento umano. Sarà un disastro.

Usi consentiti dell’Intelligenza Artificiale.

Per questione di rispetto delle persone che non tollerano a livello viscerale l’uso dell’Intelligenza Artificiale, devono essere stabiliti dei limiti di utilizzo.

Ho pensato a quali potrebbero essere questi limiti, cercando di capire quali potrebbero essere gli scopi utili di questa tecnologia in un contesto di graduale decadimento culturale della popolazione:

• L’IA può essere usata come motore di ricerca avanzato. Come accade in alcuni siti di vendita, si possono caricare delle immagini di un prodotto per cercarne uno simile. L’essere umano non partecipa al processo, controlla solo che il prodotto reale individuato nella ricerca sia quello che potrebbe essere utile.
• Le chat automatiche dei servizi in rete vanno bene, solo nel contesto in cui la generazione dei testi non supera dei limiti. I limiti sono che le macchine non possono comprendere la natura umana, e se tentano di farlo le persone che non possono leggere i testi generati da una macchina vengono limitate nell’uso di questi strumenti.
• L’IA può essere usata da persone con disabilità come il mutismo. Potrebbero trascrivere in tempo reale il testo da far leggere su un tablet alle altre persone.
  Non può essere usata per generare una voce falsa che imita l’umano, perché questa genera malessere in alcune persone. Si può usare al limite un sintetizzatore vocale come quello delle ferrovie, che non tenta di interpretare le emozioni ma vocalizza solo la trascrizione della lettura labiale della persona muta.
  In ogni caso la persona muta dovrebbe fare una sorta di corso di dizione labiale per i muti, in modo che la macchina riesca a leggere bene il labiale. Poi ogni persona dovrebbe addestrare la propria AI, leggendo dei testi specifici per l’addestramento con il labiale, in modo che la macchina associ al movimento delle labbra delle parole.
• L’IA può essere usata per operazioni semplici in ambito informatico. Io dico alla macchina ad esempio, dove devono essere inseriti i capitoli di un video, e questa poi provvede ad inserirli.
• L’IA può essere utilizzata per riassunti sommari, dove la macchina non deve tentare di comprendere i testi, ma solo cercare i pezzi di testo più somiglianti alla ricerca effettuata.

• L’IA può essere utilizza per sottolineare errori di scrittura nei testi, suggerendo in modo sintetico qual’è l’errore individuato.

  Ad esempio io ho appena scritto “qual’è” con l’apostrofo. La macchina potrebbe suggerirmi di scrivere “qual è”. Ma io potrei anche rifiutare questo consiglio, dato che sono sempre le persone a confermare quali sono le regole valide. Le regole cambiano nel tempo in base all’accettazione sociale. Infatti non abbiamo la stessa struttura grammaticale di qualche secolo prima.

In sostanza, le macchine per essere utilizzate, non dovrebbero interagire con le persone.

Ho fatto anche un esperimento su aliexpress, che ha un ottimo motore di ricerca tramite immagini.

Sono andato prima su duckduck e ho chiesto alla macchina di generare: “un paio di scarpe da trekking in tessuto tecnico traspirante, colore magenta, collo basso.” Il risultato generato l’ho poi inserito nel motore di ricerca a immagini di aliexpress, che mi ha restituito nei risultati prodotti reali.

L’immagine generata su duck duck, l’ho dovuta censurare. Dopo qualche minuto che la stavo utilizzando sul motore di ricerca, ho avvertito malessere.

Ho dovuto però prima generare l’immagine tramite l’IA di duck duck, e poi solo dopo ho potuto effettuare la ricerca tramite immagini utilizzando aliexpress. Magari in futuro ci sarà un evoluzione di questo sistema, e la funzione generativa delle IA, rimarrà nascosta agli essere umani. Noi vedremo solo il risultato finale, che è quello che tutti possono vedere senza avere problemi.

In sostanza il processo generativo è quello che crea danni alle persone. Il processo generativo può essere utile per ricercare altre persone che ad esempio stanno dipingendo nello stesso modo tuo. Dove la macchina attraverso la stessa tecnologia che utilizza per creare cose false, potrebbe per approssimazione trovare altre persone che creano uno stile di musica analogo. Ma anche no.

In definitiva è sempre l’essere umano che deve decidere all’inizio e alla fine di qualsiasi processo. La macchina può solo apprendere modelli ben programmati proprio per far funzionare le macchine. Tutto questo deve essere fatto da persone molto consapevoli per ottenere risultati apprezzabili.

Intelligenza Artificiale, quali sono i pericoli.

Di recente ho scritto un articolo sulla genesi dei sistemi monetari. Ho chiesto alla macchina di cercare qualcuno che la pensasse allo stesso modo mio.

Io gli avevo chiesto di fornirmi un link qualsiasi ad un lavoro scritto, e la macchina mi ha fornito un risultato relativo ad un sito esistente dicendo che il lavoro era stato scritto da un certo “Luca Bianchi”. Clicco sul link, e il PDF con il lavoro scritto risultava mancante…

Cosa era successo? La macchina aveva per approssimazione, stimato in quale sito sarebbe potuto apparire un articolo analogo al mio. Solo che l’articolo non esisteva compreso l’autore che l’avrebbe scritto. Esisteva però il sito che la macchina avrebbe scandagliato, con altri articoli in formato PDF. La macchina ha creato un riferimento finto che sembrasse provenire da quel sito. Io avrei potuto cascarci e pensare che l’articolo citato fosse stato ritirato dal sito, rimanendo però dell’idea che Luca Bianchi fosse una persona vera. In realtà scopro poi essere un nome di fantasia, interrogando proprio la macchina. Un miscuglio di autori stranieri, che avrebbero forse scritto lavori simili a quelli che avevo scritto io.

L’Intelligenza Artificiale è un pericoloso strumento che alimenta convinzioni personali, se uno non sta attendo si ritrova a credere che altre persone stanno seguendo lo stesso ragionamento. Quando invece i programmatori delle AI stanno programmando le macchine, per creare contenuti falsi che tra qualche anno potrebbero essere rilevati solo di chi ha il problema di sentirsi male in presenza di artefatti costruiti senza criterio umano.

Le IA potrebbero generare gruppi sui social, creando contenuti di aggregazione attirando attraverso gli algoritmi persone che sono state coinvolte da argomentazioni create dalle macchine.

Se nessuno avvisa un pericolo, io non so cosa fare.

Da quando è stata messa a disposizione l’IA per tutti, anche per chi non ha quasi nulla, ho cominciato a notare delle cose dell’ambito umano. In fondo anche le persone in carne ed ossa non sono tanto dissimili dalle macchine. Noi apprendiamo modelli, e per approssimazione creiamo altre cose simili alle precedenti.

Qual’è (o qual è), la differenza tra noi e le macchine? Esiste qualcosa dentro di noi che dice: “si, questa cosa assomiglia a quest’altra, ma io voglio creare in quest’altro modo qui”. Noi siamo esseri che vogliamo qualcosa, le macchine no. Sono programmi di apprendimento di modelli, e per somiglianza generano cose imitando l’umano.

Allora da quando è stata inventata l’Intelligenza Artificiale mi rendo conto che molte persone tendono ad assomigliare alle macchine. Un giorno entro in un bar appena inaugurato, e questo aveva allestito l’arredamento come se il bar avesse avuto una sua storia. C’erano cartelli come “se mi dici che vuoi un caffè senza dirmi buon giorno lo paghi 4 euro”. E una serie di elementi di arredamento che facevano pensare a delle consuetudini consolidate in anni di esercizio.

Il bar però era stato appena inaugurato, e tutta la costruzione della disposizione degli oggetti risultava falsa. Il proprietario era andato alla ricerca di elementi di altri bar, e li ha copiati senza criterio. Sembrava che il bar fosse fatto con l’Intelligenza Artificiale. Un bar con una storia finta mai esistita.

Invece quando un pittore crea un quadro, il quadro sarebbe una finzione, ma in realtà è l’espressione di un qualcosa di vissuto. Gli elementi nel quadro possono essere presi dalla realtà, ma essere messi in relazione in un modo mai visto. Le persone creative fanno questo. Mentre altre persone tendono ad utilizzare le cose mettendole insieme senza aver capito da dove vengono.

L’Intelligenza Artificiale quindi, amplifica a dismisura la tendenza di alcune persone a prendere pezzi della realtà senza avere criterio di ciò che si sta facendo. Le persone poco creative, hanno il limite del loro cervello in termini di potenza computazionale, ma l’IA amplifica tutti gli aspetti di non comprensione di questi soggetti.

Riepilogando: più una persona è consapevole, più avrebbe modo di usare l’IA nel miglior modo possibile. Però le persone più sono consapevoli, più non hanno bisogno di utilizzare le macchine.

Più invece le persone sono carenti sotto vari aspetti, più utilizzano l’IA amplificando a dismisura la propria incoerenza. Il paradosso è che solo chi non ha bisogno dell’IA, potrebbe usarla.

Quante persone ci sono che stanno male a causa dell’Intelligenza Artificiale?

La mia stima è basata su due differenziazioni. La prima che divide le persone creative da quelle non creative. Solo le persone creative possono avere un rigetto di fronte all’utilizzo dell’Intelligenza Artificiale. Si potrebbe dire (una stima mia) che queste siano una su cinque.

Le differenze tra persone creative e non creative sono:

• Le persone non creative vivono meglio associandosi ad un gruppo, come i motociclisti, i tifosi di una squadra di calcio. Tutti coloro che si sentono spinti ad aggregarsi ad un gruppo, ed a emulare modelli dagli altri. Queste persone tendono a comportarsi di più come le IA, e quindi hanno minore rigetto di fronte a costruzioni senza criterio.
• Le persone creative sono spinte da percorsi interiori, indagini su se stessi, ricerche di un perché esistenziale. C’è un qualcosa dentro che li muove, e utilizzano anche i modelli ma solo per cercare di comprendersi. La realtà circostante è solo uno strumento di comprensione di se stessi. Se partecipano alla vita sociale in realtà cercano solo di costruire il proprio cammino interiore.
  Fanno sogni in cui volano, ma magari si sentono legati al corpo e non riescono ad andare in alto. Guardano i posti e le situazioni come già viste o vissute, gli sembra di essere stati già lì.
  Questo tipo di persone può notare di più quando le cose sono costruite in modo artificioso, ma non sempre…

Quello che determina se uno sia sensibile o meno al problema è anche dettato da un secondo parametro legato alla percezione. Solo le persone legate ai sensi, al tatto che sono la minoranza della popolazione, potrebbero avere questo tipo di problema. Potrebbero vedere le immagini delle AI, e guardale attraverso i sensi. Le immagini vengono tramutate in sensazioni corporee, così come i suoni. E in questo processo si avvertirebbero tutti i meccanismi con cui le macchine avrebbero costruito i contenuti. È come vivere il processo di costruzione della macchina all’interno del proprio corpo, e questo crea la sensazione di malessere.

Come stima penso che le persone con questo problema, o capacità sensoriale, siano il 2% della popolazione. Cioè solamente coloro che sono creativi e cinestetici nel contempo. Sono da escludere tutto il resto, rimanendo dell’idea che il problema potrebbe colpire tutti in modo subdolo.

Questo problema non verrà considerato, così come gli altri problemi legati al cosiddetto progresso tecnologico.

Noi viviamo in una società dove molte persone credono che i problemi verranno risolti dal progresso tecnologico. In realtà il progresso tecnologico è necessario per risolvere i problemi causati dal progresso tecnologico. Verranno implementati sempre di più strumenti basati sulla tecnologia dell’Intelligenza Artificiale, per limitare i nuovi problemi che stanno emergendo.

Ci sono molte persone che non vedono l’ora che le città diventino “smart”, piene di antenne della telefonia. Alcune persone stanno valutando di schermare le case, per poterci continuare a vivere.

Gli estremisti della tecnologia non comprendono che stanno vivendo un inganno. Pensano che la tecnologia porterà lavoro, però in realtà il lavoro può essere distribuito tra tutte le persone con qualsiasi livello tecnologico. Ma la cultura del libero mercato inganna le persone facendogli credere che i posti di lavoro arrivano solo con nuove competenze. Queste in realtà sono un furto ai redditi delle persone che sono obbligate sempre di più a servirsi di beni e servizi di vario tipo per rimanere a norma mano a mano che vengono legiferati nuovi regolamenti.

È necessario pensare ad una società dove gli spazi di produzione siano separati dagli spazi domestici. Così come è bene per una società rurale avere spazi separati tra animali e uomini, la stessa cosa deve avvenire in un modello con tecnologia avanzata che deve separare i contesti produttivi, da quelli abitativi. Noi stiamo invece mischiando tutte le cose, e i contesti residenziali diventano industriali. È come dormire in stalla con gli animali, perché così e più produttivo dato che il calore prodotto nello spazio domestico fa risparmiare sulla legna.

Le industrie, i magazzini, i macchinari devono stare da una parte. E le persone devono vivere con i prodotti creati dal sistema di produzione, ma con le sole funzioni necessarie alle persone per vivere. Dobbiamo rimettere le cose al proprio posto, altrimenti è come vivere in un contesto generato dall’Intelligenza Artificiale dove il tutto è posizionato senza criterio.

Link agli articoli citati.

AI generated images make me physically uneasy and very uncomfortable.

Anyone getting nausea-like feeling after AI generated images "overdose"?

Does AI art make anyone else feel physically sick to look at?

intense fear of ai generated photos and videos 

AI Generated Images are Making Me Sick

Archivio ZIP degli articoli elencati.

Uncanny valley

https://it.wikipedia.org/wiki/Uncanny_valley

Nell’articolo si cita il problema del “uncanny valley”. Si tratta di un discorso rilevato negli anni 70, riguardo le rappresentazioni realistiche degli esseri umani. Di fronte a costruzioni troppo somiglianti, si prova un senso d’inquietudine.

Però questo non ha a che fare con il problema relativo all’uso delle AI. Anche se ci sono molti che credono che i due problemi sia collegati.

Invece il problema è nuovo, perché la sensazione di malessere viene provocata anche da immagini raffiguranti delle scarpe (come nell’esempio citato sopra).