OpenAI, het bedrijf achter AI beeldgenerator DALL-E, heeft aangekondigd dat het gebruikers in staat zal stellen foto’s te bewerken die menselijke gezichten bevatten.
Voorheen mochten gebruikers geen afbeeldingen met realistische gezichten maken uit angst voor misbruik zoals het maken van deepfakes.
Maar nu zegt het bedrijf dat het “verbeteringen heeft aangebracht in ons veiligheidssysteem” en klaar is om menselijke gezichten te ondersteunen nadat het feedback heeft ontvangen van gebruikers die de functie eisen.
“Velen van u hebben ons verteld dat u het gebruik van DALL-E mist om outfits en kapsels op uzelf te dromen en de achtergronden van familiefoto’s te bewerken,” zegt OpenAI in een verklaring.
“Een reconstructief chirurg vertelde ons dat hij DALL-E had gebruikt om zijn patiënten te helpen resultaten te visualiseren. En filmmakers hebben ons verteld dat ze beelden van scènes met mensen willen kunnen bewerken om hun creatieve processen te helpen versnellen.”
OpenAI heeft zich gepositioneerd als een meer merkvriendelijke kunstmatig intelligente (AI) beeldgenerator dan concurrenten zoals Midjourney of Stable Diffusion, waarbij de laatste de tegenovergestelde aanpak kiest door bijna geen veiligheidsfilters op te nemen.
“We hebben onze filters robuuster gemaakt in het afwijzen van pogingen om seksuele, politieke en gewelddadige inhoud te genereren – terwijl we ook werken aan het verminderen van valse vlaggen – en hebben nieuwe detectie- en reactietechnieken gebouwd om misbruik te stoppen,” voegt OpenAI toe.
Gebruikers van DALL-E, dat nog steeds invitational is, kunnen hun eigen foto’s uploaden waarbij ze de foto’s kunnen bewerken of de slimme technologie kunnen vragen om variaties van die foto te genereren, zoals in de Tweet hieronder.
DALL-E 2 de A.I. beeldgenerator kan nu variaties maken van mensen/gezichten. Dit is wat er gebeurt als ik mijn foto upload van Twitter #dalle2 pic.twitter.com/kIZpEBNOGS
– Allan Harding (@allanharding) 19 september 2022
Het is vermeldenswaard dat het inhoudsbeleid van DALL-E nog steeds voorkomt dat gebruikers beelden uploaden van mensen die hun inhoud niet hebben gegeven of beelden waar de gebruiker geen recht op heeft. Het is echter onduidelijk hoe DALL-E dit zal handhaven.
Ontluikende industrie
Open AI wordt gesteund door Microsoft en grote durfkapitaalbedrijven. In deze begindagen van tekst-naar-beeld generatoren onderscheidt DALL-E zich als een meer mainstream model door zorgvuldiger rekening te houden met juridische en ethische kwesties dan Stable Diffusion.
De krachtige technologie zou leken in staat kunnen stellen overtuigende deepfakes te maken, wat een anathema is voor een functionerende, betrouwbare samenleving.
Beeld credits: Header afbeelding gegenereerd door DALL-E.