Link Molto Belli: Parliamo di "Loab"
Ciao,
sono Pietro Minto, questa è Link Molto Belli, oggi parleremo di intelligenze artificiali e di mostri. Prima però una mappa che non c’entra niente. Buona lettura.
I Paesi Bassi sono davvero così bassi e piatti come dicono i maldicenti? Sì. Però, a ben guardare, c’è un punto del paese, a sud, in cui troviamo ben SETTE montagnuole (due delle quali sono state prodotte dai residui di una miniera di carbone). Ci sono anche escursioni in zona, si chiama “Dutch Mountain Trail”.
Ghost in the shell
Lo scorso aprile, un’illustratrice esperta di intelligenze artificiali che su Twitter si fa chiamare @Supercomposite ha scoperto un mostro tra le pieghe della IA con cui lavora. Sistemi come Midjourney e Dall-e, per quanto diversi l’uno dall’altro, funzionano allo stesso modo: l’utente (l’artista?) fornisce alla IA un prompt scritto, una descrizione dell’immagine che vuole ottenere, che funge da comando informatico.
Non tutti i prompt sono uguali. Nella maggior parte dei casi, come visto in queste settimane, vengono usati per ottenere un risultato assurdo, come “Magalli con i capelli azzurri” o “un dinosauro con le ali di fata” o “Enrico Letta con una strategia elettorale”. Esistono però anche prompt “negativi”, in cui si chiede al computerone di ricreare l’immagine opposta a quella descritta. Come a dire: “Hai presente quello? Ecco, il contrario.”
Un giorno, @Supercomposite ha chiesto alla IA di creare un’immagine “opposta” a Brando, utilizzando il prompt: “Brando::-1”. Il risultato è stato… questo logo.
Strano, no? Che c’entra questo coso con Marlon Brando? L’artista ha provato quindi a ottenere il risultato desiderato in orgine ordinando alla macchina l’opposto dell’opposto di Brando, sperando di vedere finalmente Marlon. Il prompt era: “DIGITA PNTICS skyline logo::-1”.
@Supercomposite ha schiacciato invio e si è ritrovata per la prima volta di fronte a un volto vagamente femminile, dagli zigomi accentuati e rossastri, i lineamenti macabri e inquietanti. Aveva incontrato una presenza che avrebbe finito per conoscere bene. L’ha chiamata “Loab”.
Paura? Abbiamo appena cominciato. I risultati più bizzarri sono stati ottenuti incrociando questa immagine con altre, innocue e sempre create con l’IA. Ogni volta, i risultati erano sempre mostruosi e caratterizzati da Loab.
Un collega di Supercomposite ha anche pensato di unire un’immagine di Loab con una raffigurante un «tunnel di vetro circondato da angeli […] nello stile di Wes Anderson”. Ecco le due immagini:
(Per vedere quello che la IA ha confezionato combinandole dovete però andare qui, perché il risultato può essere disturbante.)
E così via. Il resto lo trovate nel thread con cui Supercomposite ha raccontato la sua scoperta.
Ma che cos’è, Loab? Da dove viene? Chi è?
Ebbene, Loab in realtà si chiama Patrizia Forlacchioni, è nata a Forlì e lavora alle Poste.
Scusate, mi sono perso per un secondo. No, Loab esiste solo nella logica fredda, perfetta e scema delle IA, dove per qualche motivo è legata a “immagini estremamente disgustose e macabre”. Uno spettro appiccicoso che, una volta evocata da un prompt e mescolato ad altre immagini, fatica a essere lavato via. Man mano che Supercomposite e i suoi colleghi provavano a combinare Loab con altre visioni, infatti, “quasi tutte le immagini discententi contenevano un Loab riconoscibile”.
Così, c’è chi si è messo alla ricerca di Loab, richiamandola di prompt in prompt, e osservandone l’evoluzione nella IA. Secondo Max Read, che ha scritto un ottimo pezzo sulla questione, la chiave del mistero sarebbe nel concetto di “spazio latente”, ovvero un modo di visualizzare la conoscenza della IA. Come una mappa di quello che la macchina sa e di quello che “““pensa”””.
Se si allena un’IA a produrre immagini belle, o almeno gradevoli, allora i dati relativi a concetti poco piacevoli verranno sempre più allontanati dal gruppo centrale di concetti più usati per le immagini carine. Un prompt di tipo negativo potrebbe quindi spingere la macchina lontano dal cluster di concetti “ok”, mandandola alla deriva dello schifo, il marciume, il macabro. Verso Loab.
Nella foto seguente, la distanza tra i prompt normali e quelli che “risvegliano” lo spettro.
Loab proviene dall’inconscio della IA, dai margini più desolati dei suoi dati, luoghi che la macchina usa in modo incerto, generando incubi per sbaglio. In quanto tale, è il primo creepypasta dell’era delle IA, un mostro ideale per infestare una tecnologia potentissima, stranissima, mega intelligente ma anche incapace di capirci un cazzo. Sono certo che tutto questo non nasconda un monito da qualche parte, ahahah!
Link per dimenticare l’orrore appena incontrato
MIGLIORARE la Gioconda con le IA, molto ridere.
Gli ottimi editor di Wikipedia prontissimi a modificare la pagina della Regina Elisabetta II con “was”.
Com’è guardare un film di 857 ore che segue lo spostamento di un oggetto qualsiasi dalla Cina all’Europa.
Dall’Iran al Canada, come il mining di criptovalute sta reagendo all’aumento delle bollette: ne parlo sul Foglio.
Infine,
Ed è tutto, a sabato prossimo con un’edizione normale di LMB. Ciao.
Edizione interessantissima, la faccenda di Loab è davvero affascinante! Solo una precisazione al volo: @supercomposite è un'illustratrice.