“Культура безпеки відійшла на другий план”: керівники лідера в сфері ШІ залишають компанію

Головні керівники OpenAI з безпеки залишили компанію цього тижня після того, як розбіжності щодо того, чи варто віддавати пріоритет “блискучим продуктам”, чи безпеці, досягла “переломної точки”. Про це повідомляє Financial Times.

Зазначається, що Ян Лейке, який очолював підрозділ OpenAI з керування та контролю надпотужних інструментів штучного інтелекту, сказав, що пішов з компанії після конфлікту зі своїм керівництвом щодо кількості часу та ресурсів, які стартап витрачає на ці зусилля.

“Протягом останніх років культура безпеки та процеси відійшли на другий план, ніж блискучі продукти”, – підкреслив Лейке.

Відео дня

Видання пише, що OpenAI був лідером у запеклій гонці за створення все більш потужних моделей, конкуруючи з такими конкурентами, як Google, Meta та Anthropic, щоб розширити межі технології ШІ.

“Компанія залучила мільярди доларів — у тому числі 13 мільярдів доларів від Microsoft — для створення моделей штучного інтелекту, які можуть інтерпретувати текст, мову та зображення та демонструвати здатність міркувати. Швидкість цих досягнень викликала занепокоєння щодо всього, від поширення дезінформації до екзистенційного ризику, якщо інструменти штучного інтелекту стануть шахраями”, – йдеться у матеріалі.

ЗМІ підкреслює, що Лейке, один із найповажніших дослідників OpenAI, пішов разом із Іллею Суцкевером, співзасновником компанії та одним із керівників “команди супервирівнювання”, орієнтованої на безпеку, який оголосив про свою відставку на початку цього тижня.

“Це фактично розпускає команду OpenAI, яка найбільше зосереджена на забезпеченні безпечної розробки своєї технології. Решта членів команди супергрупи збережуть свою увагу до безпеки та будуть розподілені між дослідницькими групами компанії”, – пише видання.

Автори наголошують, що цей крок виявив зростаючу напругу в центрі компанії між використанням першої переваги ШІ та дотриманням своєї основної місії забезпечення надпотужного ШІ “на благо всього людства”.

“Нам терміново потрібно з’ясувати, як керувати та контролювати системи ШІ, набагато розумніші за нас. Я приєднався, тому що вважав, що OpenAI буде найкращим місцем у світі для проведення цього дослідження. Проте я досить довго не погоджувався з керівництвом OpenAI щодо основних пріоритетів компанії, поки ми нарешті не досягли переломної точки”, – резюмував Лейке.

Штучний інтелект – останні новини

У квітні OpenAI випустила поліпшену версію ChatGPT і вона вже підкорює інтернет. GPT-4 Turbo демонструє поліпшені можливості в написанні, кодуванні та логіці порівняно з попередньою версією. Особливо помітний прогрес у вирішенні математичних завдань олімпіадного рівня.

Також УНІАН повідомляв, що автори ChatGPT зібралися виходити на ринок ШІ-порно. Це не перший випадок, коли OpenAI повідомляє про готовність дозволити користувачам створювати контент для дорослих за допомогою своїх сервісів.

Вас також можуть зацікавити новини:

Zgłoś naruszenie/Błąd