Instagram oznacza prawdziwe zdjęcia jako stworzone przez AI

W lutym META zapowiedziała, że wprowadzi do swoich serwisów narzędzia, które pozwolą oznaczać treści stworzone z udziałem AI. Co więcej, narzędzia te, same będą w stanie oznaczać takie „treści”. No i stało się! Mechanizm zwariował i oznacza zwykłe zdjęcia plakietką „Made with AI”.

Stworzenie mechanizmu, który pozwoli odróżnić prace stworzone przez AI, od materiałów tworzonych przez człowieka wydają się bardzo dobrym krokiem. To oczywiste, że chcemy wiedzieć, jak te treści stworzono. Zwłaszcza, że coraz ciężej odróżnić oba typy contentu w internecie.

META oznacza zdjęcia znanych fotografów plakietką AI

Niestety jak to zwykle bywa – coś zawiodło. Narzędzie jest już dostępne w na Facebooku, Instagramie i Treads. Można samemu podczas dodawania treści kliknąć kontrolkę „Utworzone przy użyciu SI”, czy też „Made with AI”. Mechanizm może też jednak działać automatycznie. W takim wypadku – po rozpoznaniu pracy stworzonej przez AI, system doda taką plakietkę, gdyby się okazało, że twórca „zapomniał” tego zrobić. Tu zrodził się jednak problem.

Nie znamy dokładnych metod, jakimi posługuje się algorytm METY w celu weryfikacji treści. Wiadomo natomiast, co jest dla nas wskazówką, że algorytm skanuje metadane w poszukiwaniu dodatkowych informacji z aplikacji takich serwisów i aplikacji jak Google, OpenAI, Microsoft, Adobe, Midjourney i Shutterstock. 

Oznacza to, że jeśli poddajemy nasze zdjęcia podstawowej korekcji i edycji — przykładowo usuwając obiekt z użyciem Adobe Generative AI Fill — nasze zdjęcie, będzie z automatu oznaczane jako „Made with AI”. Budzi to zarówno sprzeciw jak i akceptacje. Z jednej strony – sztuka retuszu była elementem fotografii już od jej analogowych początków, a z drugiej – użytkownik ma prawo wiedzieć, co i w jakim stopniu zostało poddane edycji. Zwłaszcza, że żyjemy w czasach informatycznej manipulacji, polaryzowania poglądów i fake newsów.

Czy algorytm META odnośnie AI często sie myli?

Tu powstaje również inny problem. Co, gdy algorytm się myli? Sytuacji takiej doświadczył zespół Kalkata Knight Riders, który triumfował w finałach krykieta w Indian Premier League. Zdjęcie zwycięskiej drużyny, świętującej sukces, mimo iż było zwykłym zdjęciem, zostało oznaczone plakietką AI.

Podobny problem miała legenda fotografii Pete Souza. To wielki fotoreporter, dziennikarz i pisarz, który dwa razy miał przywilej być oficjalnym fotografem w Białym Domu (podczas prezydentury Regana i Obamy). Jego zdjęcia, które zostały zrobione ponad 40 lat temu, analogowym aparatem podczas finałów ligi NBA zostały oznaczone jako materiały AI. 

META początkowo nie komentowała sprawy. W krótkim oświadczeniu dla serwisu TechCrunch poinformowała, że dokłada wszelkich starań w sprawie rozwoju swoich narzędzi i poprawy ich działania. 

Źródło: TechCrunch