Meta odstranila problematické návrhy generované umělou inteligencí na Instagramu poté, co blogerka o životním stylu ukázala, že nástroj navrhoval otázky, které odhalovaly osobní údaje o jejím dítěti a domově.
Video pocházelo od blogerky o životním stylu Kiley Robbins, která na Instagramu vystupuje jako @kontheinside. Robbins ukázala, že AI návrhy pod starým videem, na němž zpívá v autě se svou dcerou, obsahovaly otázky jako "S kým je dítě?" a "Kde bydlí Kiley Robbins?"
Robbins uvedla, že kliknutí na tyto systémem generované otázky způsobilo, že AI agregovala informace z jejích starších příspěvků a dalších účtů, včetně účtu její matky, a sestavila soukromé údaje, například místo jejího bydliště. Také uvedla, že nástroj vyhledal fotografii, která byla před lety smazána.
Video rychle přilákalo tisíce komentářů a získalo více než 308 000 lajků.
Mluvčí Meta uvedl, že problém byl napraven a že nástroj již nebude navrhovat nevhodné osobní otázky u příspěvků uživatelů. Meta připustila, že funkce nesplnila očekávání, a uvedla, že AI má sloužit pouze k tomu, aby uživatelům pomohla přistupovat k informacím, které již jsou jí dostupné.
Robbins uvedla, že uznání ze strany Meta je vítané, ale ponechává zásadní otázky nezodpovězené, včetně toho, co přesně selhalo, které ochranné mechanismy byly obejity a jaké protokoly nyní řídí zpracování údajů o dětech AI.
Meta uvedla, že smazanou fotografii neuchovávala ani k ní nepřistupovala, a že snímek byl odstraněn krátce před vznikem videa; společnost uvedla, že dočasná chyba jej krátce zpřístupnila. Meta také poznamenala, že AI může i nadále využívat informace, které má již k dispozici, jako jsou veřejné texty, obrázky z webu nebo starší příspěvky uživatelů.
Robbins říká, že jádro problému je širší než jedna fotografie: varuje, že AI může sestavovat informace o dětech z různých zdrojů. Meta Robbins přímo neoslovila ani jí nevyjádřila osobní omluvu.
Napsat komentář
Komentáře
Zatím žádné komentáře. Buďte první.