To dopiero początek naszych działań mających na celu opracowanie nowego podejścia – będziemy je dostosowywać wraz z rozwojem sytuacji. Oto kilka nowości, które udostępnimy w YouTube w najbliższych miesiącach oraz w nowym roku.
Wymóg dotyczący informowania widzów i nowe etykiety treści
Wierzymy, że w interesie wszystkich jest zachowanie w YouTube zdrowego ekosystemu informacji. AI umożliwi wprowadzenie nowych form narracji i realizowanie jeszcze bardziej kreatywnych pomysłów, jednak może też wspierać tworzenie treści, które będą wprowadzać widzów w błąd – zwłaszcza, jeśli nie będą oni świadomi, że dany film został zmodyfikowany lub wygenerowany przez AI.
Aby rozwiązać ten problem, w najbliższych miesiącach wprowadzimy zmiany, dzięki którym widzowie będą informowani, że treści zostały wygenerowane przez AI. Będziemy wymagać od twórców, żeby informowali widzów, że publikują wiarygodnie wyglądające, ale zmodyfikowane lub sztucznie wygenerowane treści (w tym utworzone z wykorzystaniem narzędzi AI). Może to być np. wygenerowany przez AI film ukazujący wydarzenia, które nigdy nie miały miejsca, lub osoby, które powiedziały albo zrobiły coś, czego w rzeczywistości nie mówiły i nie robiły.
Jest to szczególnie ważne w odniesieniu do treści o charakterze wrażliwym dotyczących np. wyborów, trwających konfliktów, kryzysów w zakresie zdrowia publicznego czy urzędników państwowych. Twórcy, którzy konsekwentnie nie będą ujawniać takich informacji, mogą spodziewać się usunięcia treści, zawieszenia w programie partnerskim YouTube lub innych kar.
Widzów będziemy informować o zmodyfikowanych lub wygenerowanych przez AI treściach na dwa sposoby. Dodamy nową etykietę w panelu z opisem, która będzie informować, że treści zostały wygenerowane lub zmienione cyfrowo, a w przypadku niektórych typów treści obejmujących kontrowersyjne tematy jeszcze bardziej wyeksponujemy etykietę w odtwarzaczu filmów.
W niektórych przypadkach, gdy ryzyko powstania krzywdy jest zbyt wysokie, dodanie etykiety może nie być wystarczające. Jeśli wygenerowane przez AI treści będą naruszać nasze wytyczne dla społeczności, zostaną usunięte bez względu na to, czy zostały oznaczone etykietą. Przykładem może być wygenerowany przez AI film ukazujący realistycznie wyglądający akt przemocy, którego celem jest szokowanie widzów lub wywoływanie u nich obrzydzenia.
W przyszłości treści tworzone w YouTube przy użyciu narzędzi i funkcji generatywnej AI będą jasno oznaczane jako wygenerowane przez AI.
Nowe możliwości dla twórców, widzów i artystów
Członkowie naszej społeczności, w tym twórcy, widzowie i artyści, zgłaszają nam swoje obawy dotyczące wpływu, jaki mogą na nich mieć nowe technologie. Problemem może być zwłaszcza cyfrowe wygenerowanie twarzy lub głosu bez zgody danej osoby lub przedstawianie nieprawdziwych informacji jako jej punktu widzenia.
W najbliższych miesiącach, w ramach procedury składania skargi dotyczącej prywatności, umożliwimy przesyłanie próśb o usunięcie treści wygenerowanych przez AI lub sztucznie zmanipulowanych w inny sposób, które stwarzają pozory ukazywania prawdziwej osoby w sposób możliwy do zidentyfikowania (w tym jej twarzy i głosu). Oceniając taką skargę, będziemy brać pod uwagę wiele czynników, więc nie wszystkie treści zostaną usunięte z YouTube. Będziemy analizować między innymi, czy dany materiał jest parodią lub satyrą, czy osoba zgłaszająca skargę faktycznie może zostać rozpoznana, a także czy w filmie przedstawiona jest osoba znana lub będąca urzędnikiem państwowym.
Również nasi partnerzy muzyczni będą mogli zgłaszać prośby o usunięcie wygenerowanych przez AI treści muzycznych, które np. imitują sposób śpiewania wokalisty lub głos rapera. Podejmując decyzję o ewentualnym usunięciu treści, będziemy sprawdzać, czy dany film zawiera krytykę lub analizę występujących w nim syntetycznych wokali lub reportaż na ich temat. Te opcje będą dostępne dla wytwórni muzycznych i dystrybutorów reprezentujących artystów, którzy biorą udział we wczesnych eksperymentach muzycznych AI w YouTube. W najbliższym czasie będziemy udostępniać te nowe możliwości kolejnym wytwórniom i dystrybutorom.
Wdrażanie technologii AI do moderowania treści
W celu egzekwowania wytycznych dla społeczności w YouTube zawsze korzystaliśmy zarówno z technologii systemów uczących się, jak i pomocy ludzi – w Google na całym świecie wspiera nas ponad 20 000 weryfikatorów. Klasyfikatory oparte na AI wykrywają na dużą skalę treści potencjalnie naruszające nasze zasady, a weryfikatorzy sprawdzają, czy treści te faktycznie naruszają zasady. AI nieustannie zwiększa szybkość i dokładność naszych systemów moderowania treści.
Obszarem, który dotąd przysparza problemów, jest identyfikowanie nowych rodzajów treści niezgodnych z naszymi zasadami. Z powodu braku odpowiedniego kontekstu nasze systemy mają problem z rozpoznawaniem na dużą skalę nowych zagrożeń. Generatywna AI pomaga szybko zwiększyć ilość informacji, które są podstawą do trenowania klasyfikatorów AI, co umożliwia nam znacznie szybsze identyfikowanie i wychwytywanie treści niezgodnych z zasadami. Dzięki większej prędkości i dokładności naszych systemów weryfikatorzy są narażeni na oglądanie mniejszej ilości szkodliwych treści.
Odpowiedzialność jako podstawa naszych narzędzi i funkcji AI
Rozwijając nowe narzędzia dla twórców oparte na AI, stosujemy takie samo podejście, jak w przypadku naszych wcześniejszych odpowiedzialnych wyzwań – wierzymy, że warto poświęcić czas, aby zrobić coś dobrze, a niekoniecznie szybciej od innych.
Bazując na wypracowanych przez lata rozwiązaniach, starannie przygotowujemy się do dalszego rozwijania usługi, aby jeszcze lepiej wspierać nasze zespoły i rozbudowywać technologie umożliwiające moderowanie treści na dużą skalę. Ciężko pracujemy nad rozwijaniem barier, które uniemożliwiłyby naszym narzędziom AI generowanie nieodpowiednich treści, czyli takich, których nie chcemy widzieć w YouTube.
Zdajemy sobie sprawę z tego, że osoby, które nie przestrzegają zasad, z pewnością będą się starały obejść nasze bariery – i niektórym może się to udać. Nieustannie staramy się wzmacniać ochronę, ucząc się i korzystając z opinii użytkowników i użytkowniczek. Specjalne zespoły w Google, jak zespół ds. monitorowania, skupiają się na przeprowadzaniu testów kontradyktoryjnych i wykrywaniu zagrożeń, aby przygotować nasze systemy na nowe wyzwania.
Transformacja oparta na AI już się zaczęła
Dopiero zaczynamy wykorzystywać potencjał generatywnej AI, dzięki któremu YouTube może wzbogacić się o innowacje i nowe pokłady kreatywnych pomysłów, a w nadchodzących latach transformacja ta odbije się szerokim echem we wszystkich branżach kreatywnych. To kluczowy moment, w którym poświęcamy czas na wypracowanie równowagi między wyjątkowymi korzyściami, jakie oferuje ta technologia, a zapewnieniem bezpieczeństwa naszej społeczności. Będziemy pracować ramię w ramię z twórcami, artystami i innymi osobami związanymi z branżami kreatywnymi, aby opracować rozwiązania korzystne dla wszystkich.
Jennifer Flannery O’Connor, VP Product Management; Emily Moxley, VP Product Management
Źródło: YouTube
Zgłoś naruszenie/Błąd
Pozytywnie
Neutralnie 
Negatywnie
Lubię to!
Super
Ekscytujący 
Ciekawy
Smieszny
Smutny
Wściekły
Przerażony
Szokujący
Wzruszający
Rozczarowany
Zaskoczony
Prawda
Manipulacja
Fake news
Oryginalne źródło ZOBACZ
Dodaj kanał RSS
Musisz być zalogowanym aby zaproponować nowy kanal RSS