Nová bezpečnostní zpráva naznačuje, že prohlížeče s Ai, zejména ty které dokážou číst, shrnout a dokonce i provádět akce za vás, by mohly přinést vážná bezpečnostní rizika a být nebezpečnější, než se zdá.
Podle nového výzkumu zranitelností od bezpečnostního týmu Brave byly v řadě prohlížečů s umělou inteligencí, včetně Comet a Fellou od Perplexity, objeveny skryté prompty injections, což odhaluje, že tyto nástroje by mohly neúmyslně odhalit citlivá uživatelská data.
Nejnovější zjištění týmu rozšiřují předchozí objev v projektu Perplexity Comet, který ukazuje, že útočníci mohou do snímků obrazovky vkládat škodlivé instrukce. Když uživatel požádá umělou inteligenci prohlížeče o shrnutí obrázku, lze extrahovat skrytý text a spustit jej jako příkaz.
To by mohlo vést k tomu, že by asistent s umělou inteligencí reagoval na tyto příkazy s využitím ověřených oprávnění prohlížeče uživatele a potenciálně by měl přístup k e-mailu, bankovním účtům nebo firemním účtům.
V jiném případě výzkumníci z Brave zjistili, že prohlížeč Fellou lze manipulovat pouhou návštěvou napadené webové stránky. Když uživatelé požádali umělou inteligenci o navigaci na stránku, prohlížeč předal jak požadavek uživatele, tak text webu svému jazykovému modelu, což umožnilo útočníkům přepsat záměr uživatele vlastními škodlivými instrukcemi.
Artem Chaikin, hlavní bezpečnostní inženýr pro mobilní zařízení ve společnosti Brave, a Shivan Kaul Sahib, viceprezident pro ochranu osobních údajů a bezpečnost, kteří jsou autory zprávy, uvedli, že tyto problémy zdůrazňují „systémovou výzvu, které čelí celá kategorie prohlížečů s umělou inteligencí“. Stručně řečeno, tatáž umělá inteligence, která usnadňuje prohlížení, ho může zároveň učinit rizikovějším a stírat hranici mezi tím, co je bezpečné a co ne.
Důsledky sahají nad rámec těchto dvou aplikací. Jak zpráva uvádí, dlouhodobá ochranná opatření pro web, jako je politika stejného původu, která obvykle brání jednomu webu v přístupu k datům z jiného webu, neobstojí, když má asistent s umělou inteligencí oprávnění jednat za uživatele. Jednoduchá výzva skrytá na stránce nebo dokonce v komentáři na Redditu by mohla spustit nebezpečné akce napříč doménami.
Tým Brave uvádí, že nadále zkoumá způsoby, jak zvýšit bezpečnost agentního prohlížení, a doporučuje prohlížečům oddělit akce s podporou umělé inteligence od běžného prohlížení, dokud nebudou vyvinuta silnější ochranná opatření.
Prozatím je závěr jasný: Prohlížeče s umělou inteligencí sice mohou být dalším průlomem v oblasti webového pohodlí – ale zároveň s sebou přináší zcela novou třídu rizik.
Nedávno jsme informovali o tom, že stále více výrobců chytrých televizorů přináší prohlížeče s Ai do svých nových modelů.
