Během 72 hodin odešel již druhý klíčový manažer společnosti OpenAI, což vykresluje nepříliš lichotivý obraz společnosti, která je bezesporu jedním z nejstrategičtějších podniků na světě.
Jan Leike, vedoucí oddělení pro sladění, včera ukončil svůj poslední den v neziskové organizaci. Pro ty, kteří to možná nevědí, je alignment kritickým procesem, při kterém jsou lidské hodnoty zakódovány do velkého jazykového modelu (LLM). Umožňuje také, aby se LLM řídil stanovenými zásadami a pokyny. Podle všeho byl nyní celý tým OpenAI pro zarovnávání rozpuštěn.
Při líčení své cesty v neziskové organizaci Leike poznamenal, že OpenAI neinvestuje odpovídající prostředky do zajištění bezpečnosti a odolnosti LLM proti nepříznivým vlivům. Bývalý člen vedení se také domnívá, že nezisková organizace nezohledňuje širší společenský dopad snahy o vytvoření strojů „chytřejších než člověk“ a že „kultura bezpečnosti a procesy ustoupily do pozadí nablýskaným produktům„.
V překvapivém tvrzení Leike uvádí, že jeho tým měl v OpenAI často problém získat potřebné výpočetní zdroje:
„V posledních měsících můj tým plul proti větru. Někdy jsme bojovali o výpočetní techniku a bylo stále těžší a těžší tento klíčový výzkum dokončit.“
Jak již bylo řečeno, Leike je samozřejmě druhým klíčovým manažerem, který opustil společnost OpenAI během posledních 72 hodin. Jak jsme uvedli v samostatném příspěvku, hlavní vědecký pracovník neziskové organizace Ilja Sutskever zveřejnil své rozhodnutí odejít 14. května, aby mohl pracovat na „osobně významném“ projektu.
Mějte na paměti, že Sutskever hrál klíčovou roli při převratu v listopadu 2023 proti generálnímu řediteli OpenAI Samu Altmanovi, který byl správní radou bezodkladně odvolán kvůli svým stále více obchodním sklonům a sklonu prosazovat pokroky související s umělou inteligencí bez náležitých záruk. Oficiálně správní rada jako causus belli uvedla Altmanovu nedostatečnou upřímnost v komunikaci. Toto rozhodnutí však vyvolalo v OpenAI plnou vzpouru, v jejímž důsledku zaměstnanci hromadně podávali výpovědi. Altman se nakonec mohl vrátit do funkce generálního ředitele poté, co donutil představenstvo podporující převrat k rezignaci.
