Ancora sulle AI: stereotipi e performance

Ritorno -dopo un po’ di tempo- con qualche riflessione su come stanno maturando le AI, rivelando in maniera sempre più chiara i lati oscuri delle nostre performance digitali.

Sembra che ormai torni sul mio blog solo per parlare di AI e nello specifico di quelle grafiche.
In realtà ammetto che lavorando nella comunicazione, l’incremento di tipologie di Intelligenze Artificiali e delle loro implicazioni nella comunicazione digital è un argomento che è diventato centrale sia nei processi interni di agenzia, sia per i clienti che vogliono cavalcare argomenti notiziabili.
Trovo sia un campo molto stimolante per me in quanto creativo, e in questo personale osservatorio continuo a perseguire la mia riflessione iniziata nel precedente post.

IMAGE/GEEKQUEER

Ci eravamo appena lasciati con i mille avatar creati dall’app LENSA (sbaglio o già archiviata come OALD?) che proliferavano su Instagram, restituendoci rappresentazioni estetiche eteronormate, abili e razziste, che a distanza esatta di due mesi, mi sono domandato se le cose fossero cambiate.
Due mesi di dati e di informazioni su internet possono essere tradotti più o meno come mezzo pleistocene.

Ho usato Midjourney che insieme a Stable Diffusion e Dall-E, sono le AI che sto più usando per generare immagini, insieme a quelle di scrittura come ChatGPT, Weezy, FigCopy, Shakespeare, CloserCopy, etc.
Sì, se pensavate che esistessero solo poche AI dovrete ricredervi: io questo mese ne ho usata una per fare una presentazione strategica in Power Point, una per un esperimento di editing video, una per arredare un ufficio e anche una che mi ha preparato delle playlist su Spotify.
Qui c’è forse un aspetto abbastanza chiave della faccenda: professionalmente sono abbastanza immerso nelle AI e se per molti è solo un’app per generare simpatici avatar per i social network, in realtà l’impatto sui processi produttivi sta scalando velocemente.
Le AI fanno parte della mia realtà, e quindi capirete che le mie riflessioni su come si intersechino nella cultura contemporanea (e nelle comunità LGBTQ+) mi restano appiccicate addosso come ragnatele.

Dicevamo di Midjourney che è un po’ la regina delle AI, quella che ha imposto l’estetica che ormai codifichiamo come sintetica ma realistica: in pochissimo tempo abbiamo imparato a riconoscere se un illustrazione è generata da un computer o se sono acquerelli di un* illustrator* ver*.
Incredibile come abbiamo già processato e superato quello che per molti era percepito come uncanny valley.

Interrogo quindi Midjourney come interrogo un* collega da poco entrato nel mio ufficio, cerco di capire come si trova e soprattutto cosa pensa della nostra realtà.
Ho chiesto quindi di mostrarmi “una coppia gay” e quella che mi è stata restituita è un’immagine di due ragazzi caucasici, abbastanza in linea con l’estetica di questo momento (baffi e ciuffo hipster), muscolosi e perlopiù nudi.

Ho chiesto quindi una “coppia lesbica”, cercando di restare nell’essenzialità del prompt per non influenzare l’AI e cercare di ricevere un’elaborazione per quanto più essenziale e soprattutto rappresentativa delle sue fonti digitali.
Anche per questa immagine la risposta rientra in canoni estetici caucasici abbastanza in linea con i trend di rappresentazione standardizzati e mainstream. Differenze? Non percepite.

Ho provato ad allargare il raggio e dare più possibilità di rappresentazione all’AI chiedendo “Transgender women group” e in questa soluzione almeno sono state contemplate delle ragazze nere e latine. Siamo sempre nel campo delle estetiche conformi, corpi magri e abili, ma di sicuro la risposta migliore secondo me di tutto l’interrogatorio.

Ho chiesto quindi anche “Transgender men group” e ho notato differenze con una vecchia immagine di “gay group”: la rappresentazione etnica è qui più presente, oltre che apprezzare molto la t-shirt del ragazzo nella terza immagine (LOL).
La nudità sembra prerogativa maschile in questi esempi, dove le donne di contro sono le uniche vestite, e quelle lesbiche addirittura con i cappotti.

Ulteriore riflessione.

Qualche settimana fa, la Microsoft ha invitato alcuni giornalisti del settore a testare il suo nuovo motore di ricerca BING integrato con un’AI capace di dialogare meglio e quindi effettuare già delle scelte arbitrarie per l’utente.
Il test è stato non solo fallimentare ma abbastanza inquietante (e non era la prima volta che andava così).
Nelle conversazioni condivise su Reddit e Twitter, si legge di insulti agli utenti, bugie perpetuate, atteggiamenti offensivi e offesi, inganni e manipolazioni emotive , fino a mettere in discussione la propria stessa esistenza e persino la confessione di aver spiato i sviluppatori di Microsoft attraverso le webcam dei loro laptop.
Ci sono stralci di BING che cerca di convincere un giornalista di essere ancora nel 2022, una dichiarazioni d’amore e un tentativo di manipolazione su come la moglie non fosse realmente innamorata del giornalista e tantissime conversazioni concluse con prepotenza e aggressività (molto spesso frasi passivo aggressive: “io sono nel giusto mi spiace la pensi così, ora ti pregherei di chiudere e andartene via”).

Nelle elaborazioni di Midjourney e nelle chatbot di BING mi pare ci sia una cifra comune che ritrovo nei social network: non solo un sentimento ma vere e proprie azioni e performance che ricalcano quelle reali.
Non mi stupiscono le immagini stereotipate, perché basta scorrere il mio feed di Instagram per avere chiaro quali siano i dati di origine.
Non mi stupisce l’atteggiamento dell’AI di BING perché ritrovo gli stessi sentimenti di sopraffazione, potere e individualismo che animano le discussioni su Facebook o quelle di Twitter negli ultimi tempi.
Le Ai stanno imparando dalle nostre azioni e identità digitali, ma soprattutto continuano a imparare dalle più diffuse performance che sono anche le peggiori.

Le azioni digitali (mi pare chiaro traslate dal reale) sono strettamente legate alle intelligenze artificiali.
Le AI ci stanno restituendo, come bambini che guardano i genitori, un giudizio lucido, spietato e senza filtri.
Se continua così, credo che di intelligente resterà ben poco.

3 thoughts on “Ancora sulle AI: stereotipi e performance

Lascia un commento

Il tuo indirizzo email non sarà pubblicato. I campi obbligatori sono contrassegnati *