Retroscena
A che servono le nuove funzioni IA di Adobe in Lightroom?
di Samuel Buchmann
Perché il riconoscimento automatico dei contenuti IA non funziona
4/6/2024
Traduzione: Rebecca Vassella
Se un'immagine, un testo o un video è stato creato utilizzando l'intelligenza artificiale (IA), dovrebbe essere indicato come tale. Ma non è così semplice. L'esempio di Instagram è il più recente, ma finora anche tutti gli altri tentativi sono falliti miseramente.
L'idea è lodevole. C'è solo un piccolo problema: non funziona. Secondo vari report, Instagram contrassegna anche immagini reali che non sono state assolutamente generate con uno strumento di intelligenza artificiale. Questo infastidisce i fotografi e le fotografe interessate.
Anche Photoshop utilizza tecniche di intelligenza artificiale, ad esempio per il ritocco o la riduzione del disturbo. Adobe fa parte dell'organizzazione C2PA, che si dedica alla trasparenza dei contenuti creativi. Sospetto che Photoshop dichiari nei metadati quando un'immagine è stata elaborata con l'aiuto dell'IA per motivi di trasparenza.
Ma questo non rende una foto scattata in modo convenzionale «Made with AI». C'è una bella differenza tra un'immagine alla quale viene ritoccata una macchia che disturba e un'immagine creata da zero con Midjourney, Dall-E o Stable Diffusion.
Le filigrane sono un mezzo di esposizione sbagliato
Le Content Credentials, un tipo di filigrana digitale crittografata, vengono utilizzate per dimostrare l'autenticità delle immagini e rendere trasparenti le singole fasi di elaborazione, incluse quelle dell'intelligenza artificiale. L'obiettivo è garantire una documentazione completa del processo di creazione.
Con questi metadati criptati, chi lavora nell'ambito creativo può dimostrare ciò che ha creato. Tuttavia, non è possibile il contrario. Infatti, non si possono usare le filigrane per dimostrare che un'immagine non è reale.
L'intera idea si basa sul fatto che gli stessi content creator siano interessati alla trasparenza e non a smascherare gli inganni, cosa che invece vuole fare Meta.
Se non funziona con le filigrane, come dovrebbe funzionare allora? Ciò che è già spesso stato provato è far riconoscere l'IA dall'IA stessa. Ma finora non ha mai funzionato.
Riconoscere l'IA con l'aiuto dell'IA non funziona
Forse esiste uno stile tipico di ChatGPT. Tuttavia, questa è solo l'impostazione standard, che può anche essere modificata. Questi generatori, che si tratti di testo, immagini o musica, sono molto flessibili nello stile. Possono infatti imitare generi o addirittura individui.
Nel dettaglio, il caso delle immagini è leggermente diverso da quello dei testi, ma il problema di fondo è lo stesso. Un'IA che dovrebbe riconoscere in modo affidabile l'IA dovrebbe essere molto più avanzata o almeno funzionare in modo completamente diverso dallo strumento di IA che viene esaminato. Ed è proprio questo il problema: il riconoscimento e la generazione di modelli si basano sulla stessa tecnologia.
Finché non cambierà nulla di sostanziale, continueremo ad avere a che fare con fastidiosi contrassegni errati.
Immagine di copertina: Meta-Newsroom
David Lee
Senior Editor
David.Lee@digitecgalaxus.chIl mio interesse per il mondo IT e lo scrivere mi hanno portato molto presto a lavorare nel giornalismo tecnologico (2000). Mi interessa come possiamo usare la tecnologia senza essere usati a nostra volta. Fuori dall'ufficio sono un musicista che combina un talento mediocre con un entusiamso eccessivo.
Retroscena
Curiosità dal mondo dei prodotti, uno sguardo dietro le quinte dei produttori e ritratti di persone interessanti.
Visualizza tutti
