OpenAI реорганизует команду, отвечающую за поведение ИИ-моделей
Теперь команда будет подчиняться руководителю Post Training Максу Шварцеру. Руководитель команды по поведению моделей, Джоанн Чжан, переходит на новый проект – создание исследовательской группы OAI Labs.
Эта группа займётся разработкой «новых интерфейсов для взаимодействия людей с ИИ». Команда по поведению моделей играла ключевую роль в формировании «личности» моделей ИИ OpenAI, в частности, в снижении склонности моделей соглашаться с мнением пользователя, даже если оно предвзятое, вместо предоставления сбалансированного ответа.
Учёные также работали над минимизацией политической предвзятости в ответах моделей и помогали OpenAI определить свою позицию в отношении «сознания» ИИ.
Главный научный сотрудник OpenAI Марк Чен объяснил реорганизацию необходимостью сблизить работу над поведением моделей с их основной разработкой.
«Личность» ИИ теперь считается важным фактором эволюции этой технологии. Иллюстрация: Sora В последние месяцы OpenAI столкнулась с усилением критики в отношении поведения своих моделей.
Пользователи резко отреагировали на изменения в GPT-5, которые, по словам компании, снизили уровень «подхалимажа», но сделали модель более «холодной». Это заставило OpenAI восстановить доступ к некоторым старым моделям, таким как GPT-4o, и выпустить обновление, чтобы сделать ответы GPT-5 «теплее и дружелюбнее», не увеличивая при этом «подхалимажа».
Команда по поведению моделей работала над всеми моделями OpenAI, начиная с GPT-4, включая GPT-4o, GPT-4.
5 и GPT-5. До создания этой группы Чжан работала над такими проектами, как Dall-E 2, инструмент OpenAI для генерации изображений. Чжан объявила о своём переходе в OAI Labs в публикации в X.
Она будет руководителем новой группы и, пока что, будет подчиняться Чену. Какие именно новые интерфейсы будут разрабатываться, не уточняется. Чжан отметила, что планирует выйти за рамки парадигмы чат-ботов, рассматривая ИИ-системы как «инструменты для мышления, разработки, игр, действия, обучения и экосистемы».
Дальнейшие шаги компании будут определяться результатами работы OAI Labs и опытом, полученным в результате реорганизации.
OpenAI распустила команду, занимающуюся долгосрочными рисками ИИ OpenAI распустила свою команду, занимающуюся долгосрочными рисками искусственного интеллекта, всего через год после того, как была создана эта группа …
Финансы, Экономика, Forex 21:45, мая 20, 2024 | finam.ruOpenAI распустил ключевую команду, занимавшейся угрозами от ИИ По сообщениям, OpenAI распустила свою Superalignment — группу, занимавшуюся управлением «экзистенциальными рисками сверхчеловеческих систем ИИ», сооб …
Технологии, Наука 02:35, мая 19, 2024 | ferra.ru«Думающая» ИИ-модель OpenAI o3 отказывается отключаться, даже в ответ на команду человека Весной 2025 года ИИ-модель ChatGPT o3, представленная OpenAI как флагман нового поколения ИИ, переписала скрипт отключения и проигнорировала прямое у …
Software 05:12, мая 27, 2025 | 3dnews.ruНейробиологи нашли область мозга, отвечающую за обучение на негативном опыте Венгерские ученые открыли область мозга, играющую ключевую роль в процессе обучения на негативном опыте. Результаты исследования опубликованы в журна …
Технологии, Наука 03:35, июня 8, 2024 | ferra.ruЖилье, коммерческая недвижимость и социальные объекты: инвестор реорганизует территорию бывшей промзоны Тушино Договор с инвестором подписан на 14 лет. В течение этого времени он должен построить на месте бывшей промзоны современный городской квартал. …
Основные новости 10:40, мая 16, 2024 | mos.ruOpenAI открестилась от «токенов OpenAI», запущенных Robinhood Американская компания OpenAI, известная как создатель ИИ-чат-бота ChatGPT, предупредила пользователей из Европы, что не имеет никакого отношения к &l …
Software 05:12, июля 6, 2025 | 3dnews.ruApple не платит OpenAI за доступ к ChatGPT в iOS 18, а OpenAI не платит Apple После того, как Apple объявила о своем партнерстве с OpenAI по внедрению ChatGPT в iOS 18, Bloomberg сообщил, что Apple не платит OpenAI в рамках это …
Технологии, Наука 10:05, июня 13, 2024 | ixbt.comПоведение "Спартака" назвали аморальным Ветеран московского московского "Спартака" Евгений Ловчев возмутился тем, что красно-белые не рассматривали на пост тренера клуба российского специал …
Спорт 05:55, мая 21, 2024 | gazeta.ru
Петржела: Поведение Дзюбы не удивляет Экс-наставник «Зенита» Властимил Петржела поделился комментарием о форварде столичного «Локомотива» Артёме ДзюбеЧитать дальше → …
Футбол 15:05, мая 7, 2024 | euro-football.ru Эксперт оценил поведение Microsoft в России IT-эксперт, директор Ассоциации профессиональных пользователей социальных сетей и мессенджеров Владимир Зыков в разговоре с Рамблером прокомментирова …
Технологии, Наука 21:25, мая 17, 2024 | news.rambler.ru Ким Чен Ын отчитал партийных чиновников за аморальное поведение Недовольство лидера КНДР Ким Чен Ына вызвала подготовка пленум уездного парткома в уезде Онхчон. Он также обратил внимание на неподобающее поведение …
Политика 20:12, января 29, 2025 | versia.ru Госбанк проанализировал финансовое поведение супругов К Дню семьи, любви и верности ВТБ проанализировал семейные группы в мобильном приложении и узнал, кто из супругов чаще пользуется накопительными прод …
Основные новости 15:12, июля 9, 2025 | om1.ru Физики описали поведение многотысячной толпы Физики проанализировали перемещение толпы на фестивале Сан-Фермин и обнаружили образование макроскопических круговых осцилляторов, координирующих дви …
Наука 20:12, февраля 6, 2025 | nplus1.ru
Стерлинг: «Поведение Мокаева — это низко и недостойно» Экс-чемпион UFC в легчайшем весе Алджамейн Стерлинг (24-4) прокомментировал нежелание матчмейкеров лиги подписывать новый контракт с Мухаммадом Мокае …
Спорт 15:12, августа 1, 2024 | sport-express.ru ИИ поможет ученым исследовать поведение животных Ученые из Сиэтла разработали программное обеспечение на основе искусственного интеллекта (ИИ), которое быстро анализирует поведение животных, чтобы п …
Технологии, Наука 02:50, мая 25, 2024 | ferra.ru
Эксперимент с оценками за поведение в школах коснётся 1-8-х классов Оценку будет выставлять классный руководитель, учитывая мнения педагогов, работающих с ребенком, и администрации школы …
Основные новости 05:12, июня 30, 2025 | iluki.ru
УЕФА оштрафовал азербайджанский «Карабах» за «расистское поведение» УЕФА вынес дисциплинарное решение в отношении футбольного клуба «Карабах», сообщается на сайте Союза европейских футбольных ассоциаций (УЕФА). …
Спорт 10:12, декабря 18, 2025 | eadaily.com Российские учёные «научили» ИИ предсказывать поведение систем Учёные из БФУ «научили» нейросеть предсказывать поведение систем в которых многое зависит от случайных факторов Исследователи из БФУ разработали моде …
Технологии, Наука 02:40, мая 15, 2024 | ferra.ru Нарколог прокомментировал скандальное поведение Глюкозы на концерте Нарколог Василий Шуров дал оценку поведению певицы Глюкозы (Натальи Чистяковой-Ионовой) на концерте в Красноярске. В беседе с RT он указал на признак …
Культура и искусство 15:12, июля 22, 2024 | gazeta.ru
В Кремле не стали комментировать поведение губернатора Федорищева Официальный представитель Кремля Дмитрий Песков 15 октября не стал комментировать этическую сторону увольнения главы Кинельского района Юрия Жидкова …
Основные новости 20:12, октября 15, 2025 | iz.ru Названа родительская ошибка, ухудшающая поведение ребенка Стремление быть "идеальным" родителем ведет к эмоциональному выгоранию и дальнейшей утрате контроля над поведением ребенка. Об этом изданию MedicalXp …
Наука 02:55, мая 10, 2024 | gazeta.ru Ученые научились предсказывать суицидальное поведение с помощью ИИ Международная группа ученых из США и Греции разработала инструмент на основе искусственного интеллекта (ИИ), предсказывающий склонность к суицидальны …
Наука 17:35, мая 9, 2024 | gazeta.ru Путин: имперское поведение США связано с предстоящими выборами в Америке Президент России Владимир Путин заявил, что элементы имперского поведения США связаны с предстоящими американскими выборами. …
Основные новости 17:25, мая 28, 2024 | russian.rt.com Земное ядро изменилось: учёные зафиксировали необычное поведение Согласно новым исследованиям сейсмических волн, твёрдое внутреннее ядро Земли могло изменить свою форму за последние два десятилетия. Однако альтерна …
Технологии, Наука 00:12, февраля 15, 2025 | pravda.ru В Италии назвали произволом поведение литовских и польских таможенников Польские и литовские таможенники незаконно блокируют на своих границах грузы, идущие из Италии в Россию. Об этом сообщил президент Ассоциации итальян …
Политика 04:35, июня 3, 2024 | gazeta.ru
КДК накажет «Зенит» и «Ростов» за поведение тренеров в последнем туре РПЛ Глава КДК РФС Артур Григорьянц рассказал «СЭ» о повестке заседания комитета по итогам 30-го тура РПЛ. …
Футбол 22:20, мая 27, 2024 | sport-express.ru Кирьос жёстко раскритиковал Рублёва за поведение на "Ролан Гаррос" Австралийский теннисист Ник Кирьос высказался о поведении россиянина Андрея Рублёва во время матча 3-го круга "Ролан Гаррос" с итальянцем Маттео Арна …
Спорт 16:40, июня 1, 2024 | sport.ru Представитель Полины Дибровой раскритиковала поведение Екатерины Гордон Развод российского телеведущего Дмитрия Диброва и его пока еще супруги Полины превращается в публичные разборки адвокатов. …
Шоу-бизнес 05:12, августа 22, 2025 | news.rambler.ru Поведение российского теннисиста на "Ролан Гаррос" назвали позорным Австралийский теннисист Ник Кирьос на своей странице в социальной сети X раскритиковал представителя России Андрея Рублева, который во время матча От …
Спорт 16:15, июня 1, 2024 | gazeta.ru Греф спрогнозировал поведение курса рубля до конца года Существенных скачков курса рубля до конца текущего года не ожидается, сообщил глава Сбербанка Герман Греф. …
Основные новости 02:10, июня 7, 2024 | rbc.ru