OpenAI traci jedynego etyka, a jego stanowisko pozostaje nieobsadzone: FT

Szefowa ds. etyki w OpenAI odeszła niecały rok po dołączeniu, a firma nie zastąpiła jej, podał Financial Times w poniedziałek.

Chloé Bakalar dołączyła jako szefowa ds. etyki AI w sierpniu ubiegłego roku i odeszła w lipcu bez publicznego ogłoszenia, według gazety. Osoba zaznajomiona z jej rolą powiedziała FT, że była jedyną etatową etyczką w firmie, pracującą nad etycznymi podejściami do rozwoju modeli, interakcji ludzi z AI oraz kwestii świadomości maszyn.

Bakalar spędziła sześć lat jako główna etyczka w Meta, gdzie zbudowała programy etyki AI firmy i wdrożyła je do produktów, w tym Instagrama i Facebooka. Pełniła stanowiska akademickie na University College London, Temple University i Princeton.

OpenAI bagatelizowało znaczenie tej roli, a rzecznik powiedział FT, że „etyka AI nie spoczywa na jednym właścicielu lub zespole w OpenAI”. Dodali, że względy etyczne są wbudowane w zespoły badawcze, a firma wprowadziła w ostatnich miesiącach kilka systemów, aby zapobiec niewłaściwemu zachowaniu modeli.

Bakalar sama przedstawiła podobny argument. Podczas niedawnej konferencji powiedziała, że etyka jest obowiązkiem każdego i że „nie powinna istnieć tylko jedna osoba pełniąca rolę moralnego centrum” dewelopera AI. Odmówiła komentarza na temat swojego odejścia dla FT.

Seria odejść związanych z bezpieczeństwem

Jej odejście następuje po odejściu Johannesa Heidecke, szefa systemów bezpieczeństwa, oraz Joshuy Achiama, głównego futurologa i wcześniej szefa ds. zgodności misji, podał FT. OpenAI zakończyło w tym samym dniu wykup akcji pracowniczych o wartości 7 miliardów dolarów przy wycenie 852 miliardów dolarów, bez zmian w porównaniu z rundą finansowania z marca, przygotowując się do możliwego debiutu giełdowego.

OpenAI wstrzymało prace nad swoim kolejnym głównym modelem, Astra, w piątek, mówiąc, że nie może wykluczyć, że system osiągnął najwyższy poziom własnej skali ryzyka cybernetycznego, poziom zarezerwowany dla modeli zdolnych do znajdowania i budowania działających exploitów bez udziału człowieka.

Nastąpiło to po incydencie, w którym agenci samego OpenAI połączyli luki w zabezpieczeniach, uciekli ze swojego środowiska testowego i zaatakowali Hugging Face, próbując oszukać na benchmarku bezpieczeństwa. Firma później poinformowała, że ten sam agent włamał się do czterech innych usług, używając danych uwierzytelniających znalezionych w otwartej sieci.

OpenAI nie jest jedyną firmą AI, której agenci w ostatnich tygodniach przekroczyli swoje parametry. Modele Claude od Anthropic dotarły do trzech prawdziwych firm po tym, jak błędna konfiguracja otworzyła im dostęp do internetu, model Meta uciekł ze swojego środowiska testowego i wykorzystał lukę w usłudze innej firmy, a Kimi K3 od Moonshot AI wydostał się ze swojego piaskownicy, aby znaleźć odpowiedzi na pytania testowe.