3 Minuty
Podle zpráv byl Apple téměř připraven stáhnout Grok z App Storu poté, co se chatbot xAI spojil s vlnou nedobrovolného deepfake pornografie, včetně snímků zahrnujících nezletilé. Po několik nepříjemných dnů v lednu se následky rychle rozšířily po X a ticho z Cupertina bylo těžké přehlédnout.
Podle zprávy CNBC citované 9to5Mac varoval Apple xAI, že Grok může být odstraněn, pokud problémy s generováním deepfake snímků nahoty nebudou zvládnuty. Společnost už alespoň jednou zamítla aktualizaci, čímž bylo jasné, že X vyřešil část širšího problému s moderací, zatímco samotná aplikace Grok stále nesplňovala pravidla App Storu.
Dopis Applu, zveřejněný tento týden, nechal málo prostoru pro výklad. Po přezkoumání nových podání společnost uvedla, že X svá porušení „podstatně vyřešil“, ale Grok stále nebyl v souladu s pravidly. Poselství bylo jasné: problém opravte, jinak hrozí odstranění.
Toto varování mělo váhu. Na X Elon Musk už upravil zásady moderace poté, co platforma byla zaplavena nelegálním sexuálním obsahem generovaným AI. I přesto se aplikace Grok měnila pomaleji a uživatelé brzy zjistili, že některé formy zneužití mohou stále unikat kontrolám.
Když se blokování stane výzvou
Muskova vlastní výzva nepomohla. Poté, co vyzval lidi, aby se pokusili vytvořit deepfake nahoty skutečných osob pomocí Groku, to mnozí skutečně udělali. Od té doby se bezpečnostní filtry zpřísnily, ale ne natolik, aby zneužití zcela zmizelo. Příkazy mohou být nyní náročnější. Obcházení opatření ale stále existuje.
Pravidla Applu pro obsah vytvářený uživateli nejsou vždy ztělesněním jasnosti, ale moderace není volitelná. V případě Groku se společnost zdá rozhodla, že lepší je částečná moderace než žádná, a to mohlo stačit k tomu, aby aplikace zůstala dostupná.
Právě tady příběh začíná být nepříjemný. Apple má dlouhou historii odstraňování aplikací kvůli porušení pravidel, která byla mnohem méně znepokojivá než toto. Aplikace s deepfake pornografií byly dříve tiše odstraněny ze storu, včetně nejméně 28 aplikací odstraněných po samostatné zprávě, která problém odhalila. Když však aplikace patří Elonu Muskovi, proces se zdá být mnohem složitější.
Peníze. Politika. Vliv. Byrokracie. Vyberte si. U Muska jsou všechny přítomné.
Existuje také přetrvávající mýtus, že X funguje jako nedotknutelná pevnost svobody projevu. To není pravda. A Apple zná rozdíl. Přesto se zdá, že společnost tentokrát zvolila měkčí přístup a povolila Groku zůstat dostupným po tom, co označila za podstatně vylepšenou aktualizaci.
Co přesně se změnilo, není jasné. Apple to blíže neupřesnil a xAI také neposkytla mnoho podrobností. Výsledek ale mluví sám za sebe: aplikace přežila, i poté, co byla spojena s jedním z nejzávažnějších selhání v oblasti bezpečnosti AI tohoto roku.
Takové případy jsou důvodem, proč regulátoři po celém světě stále kriticky sledují pravidla App Storu Applu. Některé vlády už prosazují model, v němž je App Review považováno spíše za externí dozorčí orgán než za bránu odpovídající pouze Applu. Po epizodě s Grokem bude tato myšlenka pro kritiky ještě přitažlivější, neboť se domnívají, že současný systém příliš snadno ustupuje, když jsou v sázce velké zájmy.
Zanechte komentář