Ačkoli se může mnohdy zdát AI pro svět jako celek nepříjemná a škodlivá – nemluvě o rostoucích nákladech na paměti –, některé společnosti hledají pozitivní způsoby, jak ji využít. Jedním z takových příkladů je nejnovější patent společnosti PlayStation, č. 18/314775, týkající se „systému sociální integrity založeného na velkém jazykovém modelu“. Jednoduše řečeno jde o fiktivní účet určený k označování potenciálně nebezpečných uživatelů.
Je v podstatě „nastaven tak, aby napodoboval demografické chování potenciální oběti při zasílání zpráv, přičemž se antisociálnímu (AS) uživateli jeví jako zcela legitimní. To může zahrnovat napodobování chování nezletilých při zasílání zpráv a prezentování tohoto chování tam, kde ho antisociální uživatelé hledají. Účet AS naváže komunikaci s fiktivním účtem.
„Účet AS může být označen jako podezřelý a systém může počkat, až uživatel AS učiní první krok vůči legitimnímu účtu, a nahlásit jej ještě předtím, než dojde k jakékoli nežádoucí komunikaci. Pseudoúčet může být řízen velkým jazykovým modelem (LLM), jako je například generativní předtrénovaný transformátor (GPTT).“
Co se považuje za „podezřelou“ aktivitu? Spam, žádosti o osobní údaje, nevhodné zprávy, podvádění ve hře, podvody a dokonce i pokusy o kontaktování potenciálních nezletilých. Systém samozřejmě nevede k jejich zablokování ani netrestá běžnou komunikaci. Ti, kteří splňují výše uvedené podmínky, však budou označeni a každému, kdo s nimi bude komunikovat, se zobrazí varování.
Jedná se v podstatě o systém moderace s tou výhodou, že žádné nebezpečné účty nebudou vědět, že jde o fiktivní účet. Pokud jde o využití umělé inteligence, lze to rozhodně považovat za užitečné. Skutečnou otázkou však je, zda se to skutečně využije, vzhledem k počtu patentů, které jsou zaregistrovány, ale nikdy se v komerčním smyslu neuskuteční. Jako vždy, čas ukáže, takže sledujte další novinky.
Co se týče populárních rozhodnutí, mohlo by to určitě pomoci zájmům společnosti PlayStation, zejména poté, co se rozhodla od ledna 2028 přestat vyrábět fyzické disky pro nové tituly. Přestože finanční ředitel Lin Tao uznal značnou vlnu kritiky, uvedl, že společnost bude „v této věci postupovat opatrně“. Více podrobností najdete zde.
Článek PlayStation patentuje „pseudoúčet“ s AI pro označování potenciálně nebezpečných uživatelů se nejdříve objevil na GAME PRESS.
