Platformy sociálních médií stále častěji hledají způsoby, jak chránit malé děti před škodlivými dopady nadměrného užívání a omezovat ho pomocí různých technik zaměřených na zvýšení online bezpečnosti. Mnoho velkých jmen aktivně podporuje věkově podmíněné divácké návyky a zdá se, že YouTube jde o krok napřed a zaujímá agresivnější přístup k ochraně teenagerů.
YouTube se nyní zaměřuje na zavedení nového ověřovacího systému založeného na umělé inteligenci ve Spojených státech. S pomocí technologie by platforma byla schopna rozlišovat mezi dospělými a nezletilými na základě toho, co si prohlížejí.
Iniciativa YouTube pro ověřování s využitím umělé inteligence je krokem k bezpečnějšímu online prostoru.
YouTube nyní ve Spojených státech zahajuje testování nového ověřování s využitím umělé inteligence, které by se nespoléhalo pouze na informace nahlášené samotnými uživateli, ale využívalo by i možnosti této technologie k vyhodnocení typu sledovaných videí a k určení, zda se jedná o dospělé nebo nezletilé uživatele na základě jejich diváckých zvyklostí. Tato inovativní iniciativa by pomohla přesněji určit věk a chránit mladé uživatele před nevhodným obsahem. Test bude zpočátku rozšířen pro omezený počet uživatelů, přičemž širší rozšíření bude záviset na úspěchu programu.
I když je tato iniciativa skvělá z hlediska ochrany uživatelů, vyvolává otázky týkající se soukromí a etiky. Vzhledem k tomu, že systém založený na umělé inteligenci monitoruje prohlížený obsah, mohl by omezovat svobodu projevu a být porušením soukromí. Skupiny pro digitální práva tvrdí, že takové ověřovací metody by mohly narušit anonymitu a mohly by vést k omezení přístupu k citlivým informacím a online komunitám, kde nezletilí i dospělí hledají podporu nebo informace, jako jsou například fóra pro duševní zdraví.
Tento krok je také v souladu s přístupem regulačních orgánů, jako je například zákon o online bezpečnosti (Online Safety Act), který má chránit malé děti před přístupem k obsahu pro dospělé. Pokud zhodnotíme načasování této iniciativy, přichází v době, kdy YouTube již tvrdě zasahuje proti blokovačům reklam a zavádí funkce umělé inteligence, které pomáhají zlepšit uživatelský zážitek. Zdá se, že platforma aktivně hledá způsoby, jak využít umělou inteligenci a také optimalizovat zapojení a monetizaci.
I když by uživatelé mohli mít prospěch z hlediska lepšího vyhledávání obsahu a bezpečnějšího prostředí, rovnováha mezi bezpečností a soukromím je křehká. Je nezbytné chránit mladé uživatele před škodlivým obsahem, ale zároveň zajistit, aby tento obsah neomezoval svobodu projevu ani nebyl cílený na uživatele. Při zavádění tohoto nového kroku by byla důležitá transparentnost, aby byla zajištěna ochrana uživatelů.
