Umělá inteligence otevírá nové možnosti při vytváření her a modifikací. Během pár sekund dokáže vygenerovat assety, ale i zvuky, jejichž nahráváním a úpravami by jednotlivci strávili mnoho hodin usilovné práce. Jenže legislativně zatím není úplně vyřešené, jak v případě AI generovaného obsahu nakládat s autorskými právy. Nedávno jsme psali například o tom, jak Valve blokuje vydávání her na Steamu, na jejichž vzniku se podílela právě umělá inteligence. A teď hlasitě protestují i dabéři Skyrimu. Jejich hlasy totiž moddeři používají k vytváření obsahu pro dospělé.
AI umí z relativně malého audio vzorku dotvořit, přeskládat a vygenerovat úplně nové repliky se stejnou barvou hlasu. Teoreticky tak vzniká prostor pro neomezené deepfake audio stopy, ve kterých mohou NPC říkat úplně cokoliv. A to se dabérům samozřejmě nelíbí. Obzvláště, pokud svůj hlas slyší v explicitním obsahu a pornografických modifikacích.
With the rise of AI voice cloning, voice actors are being abused by the modding communities. As a member of the Skyrim modding scene, I am deeply concerned at the practice of using AI voice cloning to create and distribute non-consensual deepfake pornographic content. pic.twitter.com/ySUFqrtjH0
— Robbie (@Robbie92_) July 1, 2023
Stanovisko největší a nejpopulárnější knihovny modifikací Nexus Mods se přitom přiklání spíše na stranu tvůrců obsahu. Respektive kurátoři nebudou proaktivně zasahovat proti modifikacím s podílem AI. „Umělou inteligencí vzniklé modifikace nejsou proti našim pravidlům, ale mohou být odstraněny, pokud obdržíme validní námitky od vlastníků práv,“ stojí ve vyjádření Nexus Mods. Míč je tedy vždy na straně uživatelů či přímo samotných dabérů, kteří musí stránku žádat o stažení modů, se kterými nesouhlasí.
„My, níže podepsaní, jsme propůjčili svůj talent hrám ze série The Elder Scrolls (Morrowind, Oblivion, Skyrim) a jsme hluboce znepokojeni modderskou komunitou. Naše práce je hanebně přepracovávaná za pomocí AI nástrojů k vytváření deepfake audio stop, které recitují explicitní a pornografické dialogy. Věříme, že tvorba deepfake pornografie je zlo a modderská komunita musí jednat,“ stojí ve výzvě na Twitteru, pod kterou jsou podepsaní například Olev Aleksander (dabér rozličných strážných ve Skyrimu) nebo Claudia Christian (dabérka Aely the Huntress, legátky Rikke či Adrianne Avenicci).
Zastavení podobných aktivit ale je tak trochu boj s větrnými mlýny. Spoléhá totiž na to, že nevhodné využívání umělé inteligence nahlásí sami uživatelé a posléze zakročí moderátoři webů, kde jsou modifikace ke stažení. Nic ale autorům explicitního obsahu nebrání nabízet mody na jiných, méně kontrolovaných stránkách a fórech.