2 godzin temu
2 sierpnia tego roku zaczęły być stosowane kolejne przepisy rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji (tzw. AI Act).
Celem rozporządzenia jest poprawa funkcjonowania rynku i promowanie upowszechniania zorientowanej na człowieka i godnej zaufania sztucznej inteligencji, przy jednoczesnym zapewnieniu wysokiego poziomu ochrony przed szkodliwymi skutkami systemów AI w Unii Europejskiej.
AI Act skupia się głównie na tzw. systemach AI wysokiego ryzyka (np. działających w obszarze biometrii czy infrastruktury krytycznej), ale ma też znaczenie dla wielu innych podmiotów z branży e-commerce korzystających z AI i właśnie tych przypadków dotyczy niniejszy artykuł.
Deepfake – kiedy trzeba oznaczać obraz, dźwięk i wideo?
W mojej ocenie najważniejszym wymogiem dla e-commerce jest obowiązkowe informowanie o wykorzystywaniu w działalności tzw. treści deepfake. Istotne jest to, iż definicja deepfake jest szeroka – obejmuje nie tylko wizerunki osób, ale również przedmioty, miejsca i zdarzenia. Nie jest jednak nieograniczona. Zgodnie z rozporządzeniem AI Act przez takie treści rozumie się: “wygenerowane przez AI lub zmanipulowane przez AI obrazy, treści dźwiękowe lub treści wideo, które przypominają istniejące osoby, przedmioty, miejsca, podmioty lub zdarzenia, które odbiorca mógłby niesłusznie uznać za autentyczne lub prawdziwe”.
Jako przykład treści stanowiącej deepfake Komisja Europejska w swoich wytycznych do artykułu 50 AI Act (dalej: “Wytyczne”) wskazuje obraz produktu wygenerowany przez AI, wykorzystany w reklamie lub na opakowaniu, który może wpływać na sposób postrzegania produktu przez odbiorców i wprowadzać ich w błąd co do jego rzeczywistego wyglądu, adekwatności lub sposobu użycia (np. przedstawiając produkt jako inny niż w rzeczywistości, bardziej atrakcyjny lub o lepszej jakości niż faktycznie). Natomiast jako przykład treści niestanowiącej deepfake wskazano rzeczywisty produkt (np. samochód) przedstawiony w reklamie na tle oraz w otoczeniu wygenerowanym przez AI, pod warunkiem iż reklama nie wprowadza odbiorców w błąd co do rzeczywistego wyglądu produktu, jego cech ani sposobu użytkowania.
W przypadku deepfake przedsiębiorca musi ujawnić, iż treści te zostały sztucznie wygenerowane lub zmanipulowane – przez odpowiednie oznakowanie wyniku działania AI. Informacje te powinny być przekazane w jasny i wyraźny sposób, najpóźniej w momencie pierwszej interakcji lub pierwszego stosowania.
Co ciekawe, obowiązek ten nie obejmuje tekstu wygenerowanego z użyciem AI, chyba iż jest on publikowany w celu informowania opinii publicznej o sprawach leżących w interesie publicznym. Tym samym opisy produktów wygenerowane z wykorzystaniem AI czy inne treści na stronie sklepu lub serwisu internetowego zwykle nie muszą być oznaczane analogicznie jak pozostałe treści stworzone z pomocą sztucznej inteligencji. Potrzebne jest tu jednak zastrzeżenie. Wytyczne Komisji jasno wskazują, iż obowiązek oznaczenia występuje m.in. w przypadku reklam i opisów produktów, gdy zawierają twierdzenia dotyczące m.in. zdrowia, bezpieczeństwa konsumentów lub zrównoważonego rozwoju. Opis suplementu diety, kosmetyku czy sprzętu z oświadczeniem o bezpieczeństwie albo hasłem ekologicznym może więc już podlegać obowiązkowi oznaczenia.
“Czy ja rozmawiam z botem?” – użytkownik nie powinien mieć wątpliwości
Ten obowiązek co prawda ciąży na dostawcach systemów AI, jednak warto, aby przedsiębiorca działający w e-commerce, wykorzystujący chatbota na swojej stronie internetowej zadbał o to, aby zaimplementowane przez niego rozwiązanie działało w taki sposób, by osoby korzystające z czatu były informowane o tym, iż prowadzą interakcję z systemem AI, chyba iż jest to oczywiste z punktu widzenia tej osoby fizycznej. Mając na uwadze, iż użytkownikami stron internetowych są osoby o różnym poziomie świadomości technologicznej, w mojej ocenie należy przyjąć, iż bezpieczniej jest o tym poinformować. Wytyczne Komisji potwierdzają ten kierunek: wyjątek „oczywistości” należy rozumieć wąsko, a wśród przykładów, które go nie spełniają, wskazano wprost chatboty na platformach internetowych i w helpdeskach, gdzie użytkownik może odebrać odpowiedzi jako pochodzące od człowieka.
Ogólne zasady
AI to potężne narzędzie, które może bardzo pomóc, ale też bardzo zaszkodzić. Przede wszystkim należy zwrócić uwagę na to, co w ramach firmy jest wgrywane do systemów AI (w szczególności w zakresie danych osobowych oraz tajemnicy przedsiębiorstwa), na konfigurację systemów oraz na interpretację wyników generowanych przez AI. Sztuczna inteligencja potrafi tworzyć bardzo mądrze i profesjonalnie wyglądające dokumenty, które okazują się zbiorem halucynacji (np. w zakresie wymyślonych przez AI przepisów) lub nieaktualnych treści (system bazował na swojej pamięci zamiast na aktualnych przepisach). Tak jak w przypadku innych rozbudowanych systemów, z AI trzeba nauczyć się korzystać – i robić to z głową.
Na koniec jeszcze jedna ważna kwestia: oznakowanie treści nie czyni jej legalną. Deepfake z wizerunkiem lub głosem konkretnej osoby wymaga podstawy przetwarzania danych osobowych, a wygenerowany obraz produktu wprowadzający w błąd pozostaje nieuczciwą praktyką rynkową niezależnie od naklejonej etykiety.
Autorką komentarza jest Zofia Babicka-Klecor, Founder & CEO w Kreator Legal Geek.
