Перестановки в высшем руководящем составе компании OpenAI, известной созданием чат-бота ChatGPT, привели к смене совета директоров и возвращению Сэма Альтмана на пост генерального директора. Теперь появилась информация, согласно которой источником этих перестановок могло стать открытие в сфере искусственного интеллекта, несущее угрозу человечеству.
Денис
Информационное агентство Reuters рассказало о письме нескольких исследователей из компании, адресованном прежнему совету директоров. В этом письме высказываются опасения относительно открытий в искусственном интеллекте. Проект называется Q* (Q-Star).
Письмо отправила бывший технический директор компании Мира Мурати, недавно два дня исполнявшая обязанности генерального директора. Некоторые сотрудники уверены, что проект Q* может стать настоящим прорывом в разработке искусственного интеллекта общего назначения (AGI). Это автономная система, способная превосходить людей в большинстве экономически оправданных задач. Новая модель, как считается, решила ряд математических проблем, внушив исследователям веру в успех разработки.
Константин Игнатьев
В письме говорилось о потенциальной опасности обновлённого ИИ. Также там отмечается работа группы учёных, которая была сформирована при слиянии команд разработчиков «Code Gen» и «Math Gen». Целью новой группы была оптимизация существующих моделей ИИ для выполнения научных работ.
Считается, что Сэм Альтман согласился провести внутреннее расследование возможностей новой разработки, что и стало причиной его увольнения. Официально эти причины не сообщались.
Подписывайтесь на T4S.TECH в Telegram. Публикуем новости, обзоры и забавные факты о технологиях.
