Klíčový manažer OpenAI odchází, popisuje svůj boj o získání výpočetního výkonu potřebného pro výzkum a poukazuje na přílišné zaměření na „lesklé produkty“

Během 72 hodin odešel již druhý klíčový manažer společnosti OpenAI, což vykresluje nepříliš lichotivý obraz společnosti, která je bezesporu jedním z nejstrategičtějších podniků na světě.

Jan Leike, vedoucí oddělení pro sladění, včera ukončil svůj poslední den v neziskové organizaci. Pro ty, kteří to možná nevědí, je alignment kritickým procesem, při kterém jsou lidské hodnoty zakódovány do velkého jazykového modelu (LLM). Umožňuje také, aby se LLM řídil stanovenými zásadami a pokyny. Podle všeho byl nyní celý tým OpenAI pro zarovnávání rozpuštěn.

Při líčení své cesty v neziskové organizaci Leike poznamenal, že OpenAI neinvestuje odpovídající prostředky do zajištění bezpečnosti a odolnosti LLM proti nepříznivým vlivům. Bývalý člen vedení se také domnívá, že nezisková organizace nezohledňuje širší společenský dopad snahy o vytvoření strojů „chytřejších než člověk“ a že „kultura bezpečnosti a procesy ustoupily do pozadí nablýskaným produktům„.

V překvapivém tvrzení Leike uvádí, že jeho tým měl v OpenAI často problém získat potřebné výpočetní zdroje:

„V posledních měsících můj tým plul proti větru. Někdy jsme bojovali o výpočetní techniku a bylo stále těžší a těžší tento klíčový výzkum dokončit.“

Jak již bylo řečeno, Leike je samozřejmě druhým klíčovým manažerem, který opustil společnost OpenAI během posledních 72 hodin. Jak jsme uvedli v samostatném příspěvku, hlavní vědecký pracovník neziskové organizace Ilja Sutskever zveřejnil své rozhodnutí odejít 14. května, aby mohl pracovat na „osobně významném“ projektu.

Mějte na paměti, že Sutskever hrál klíčovou roli při převratu v listopadu 2023 proti generálnímu řediteli OpenAI Samu Altmanovi, který byl správní radou bezodkladně odvolán kvůli svým stále více obchodním sklonům a sklonu prosazovat pokroky související s umělou inteligencí bez náležitých záruk. Oficiálně správní rada jako causus belli uvedla Altmanovu nedostatečnou upřímnost v komunikaci. Toto rozhodnutí však vyvolalo v OpenAI plnou vzpouru, v jejímž důsledku zaměstnanci hromadně podávali výpovědi. Altman se nakonec mohl vrátit do funkce generálního ředitele poté, co donutil představenstvo podporující převrat k rezignaci.

Doporučené TECHPress

Xbox Project Helix odhaluje další detaily. Microsoft chystá revoluci v konzolích, AI...

Microsoft postupně odhaluje svou vizi příští generace Xboxu a podle nových informací půjde o jeden z nejambicióznějších hardwarových projektů v historii...

MSI představilo EdgeMesa N AI+. Kompaktní AI počítač s výkonem až 1...

Společnost MSI rozšiřuje své portfolio AI zařízení o nový stolní počítač EdgeMesa N AI+, který chce přinést lokální...

Jensen Huang zvažuje návrat do čela NVIDIE

Sága kolem odchodu zakladatele společnosti NVIDIA nabírá další obrátky. Podle nejnovějších informací údajně roste šance, že by...

SSD a úložiště by mohly konečně zlevnit. Ceny NAND pamětí během jediného...

Po měsících zdražování přichází dobrá zpráva pro uživatele počítačů, notebooků i smartphonů. Podle nejnovějších údajů došlo k výraznému poklesu...

Jensen Huang prolomil mlčení. Přiznal chyby a je připraven vrátit se do...

Příběh kolem odchodu zakladatele společnosti NVIDIA nabírá další obrátky. Dlouholetý šéf technologického giganta Jensen Huang poprvé veřejně promluvil...

Více z této kategorie

Doporučené