2023-03-26

Xi, Putin och fejkade bilder

Två stora ledare träffades ju häromdagen. Rapporter och bilder från icke-händelsen (som det blev) strömmade ut från de vanliga kanalerna. Och i sociala medier cirkulerade den här bilden.

Först utgick jag ifrån att folk insåg vad den gick för. Det var kanske ett misstag.

Märkliga ögonblicket när Putin knäböjer framför Kinas ledare: Så ser du att bilden är en AI-fejk

- Rubrik hos SVT, 22 mars 2023

Jag kommer till det tekniska, finliret där man letar avslöjande detaljer. Men om vi bortser från det för ett ögonblick. Och även om AI fått all uppmärksamhet på sistone så är det ingen nyhet precis att man kan tillverka bilder som ser äkta ut. Och bortsett från det … Vad är det vi ser? Skulle Vladimir Putin, Rysslands självhärskare och macho-Gud, knäböja för Xi? Krama hans händer? Rentav kyssa dem, som det verkar? Kom igen?

Om man tror på det, så är man bortom all räddning.

Över till det tekniska – om inte annat så är det roligare än att försöka uppmuntra sunt förnuft.

Först ett årsgammalt tips: En liten snabbkurs i Konstgjorda ansikten. Jag utgick ifrån ett program från 2018, och sen dess har mycket hänt. Men när jag nu ögnar igenom det så håller en del fortfarande.

Händer har länge varit bildprogrammens Akilleshäl (hö hö). Denna spaning kan bli passé när som helst, men i skrivande stund är detta fortfarande en fallgrop som mången artificiell kreation faller i. Det är märkligt att se fotorealistiska bilder, även sådana med långt bättre teknisk kvalité än den på Xi och Putin, där programmen fått till skitsvåra grejer som hår, hy och framför allt ögon – samtidigt som folk har sex fingrar, eller fyra och en halv, eller märkliga skinnflikar som läkarna kanske har ett namn på. Annat som kan vara avslöjande: Näsor, öron, tänder. Och text. Och abstrakta symboler, loggor och liknande.

Ibland blir man påmind om att programmen inte bygger upp en tredimensionell scen. Förgrund och bakgrund kan ”interagera”, eller vad man ska kalla det, på märkliga sätt. Här är det en fönsterkarm/gardin/annat som gör en omotiverad böj. Notera att böjen följer stolsryggens kurvatur.

Man blir också påmind om att det är artificiell intelligens, inte faktisk; programmet har ingen aning om vad det gör. Att det kan lösa krävande uppgifter men gå bet på till synes mycket enklare är inte alls lika märkligt som om en människa stått för kompetensvariationerna.

Man kan också jämföra med andra bilder från samma möte och konstatera att rummet på bilden – färger, matta, stolar – inte återkommer. Men jag kan inte släppa att allt sådant är överkurs när man ser vad bilden föreställer.

Det finns verktyg som analyserar bilder och försöker att avgöra om de är skapade med AI eller inte. Här prövade jag ett som heter Hive Moderation. ”Not likely to be AI Generated” var dess tveklösa dom. Okej …

Här är en annan bild med Xi och Putin. Nu råkar jag veta att en spelevink (Stefan) beordrat ett AI-program att kreera den, annars vete sjutton om jag inte låtit mig luras … :-)

Hive Moderation: ”Not likely to be AI Generated”! Ja men dåså.


4 kommentarer:

Anonym sa...

Hive Moderation verkar inte särskilt pålitlig. Undrar hur många AI-genererade bilder som programmet missar?

Ulf T sa...

Hive Moderation kanske är en AI-baserad AI-detektor? I så fall kanske bedömningen blir ett cirkelresonemang?

Anonym sa...

Jag misstänker det.

Ulf T sa...

En professor försökte faktiskt använda AI för att avslöja användandet av AI: https://www.rollingstone.com/culture/culture-features/texas-am-chatgpt-ai-professor-flunks-students-false-claims-1234736601/