OpenAI выпустила голосовые модели GPT-Live-1.1: естественнее, но с ослабленным контролем

OpenAI объявила о выпуске новой версии модели, отвечающей за голосовое взаимодействие в ChatGPT. Речь идёт о GPT-Live-1.1, которая приходит на смену предыдущим голосовым моделям. Одновременно дебютировала облегчённая модификация с названием GPT-Live-1.1 Quip.

Главная заявленная цель новинок — сделать диалоги с искусственным интеллектом более живыми и естественными. Разработчики стремились улучшить качество устной речи, интонации и общее впечатление от разговора с ChatGPT. Версия Quip позиционируется как более лёгкий вариант базовой модели.

Это предполагает меньшие требования к ресурсам, хотя компания не раскрыла технические подробности о том, чем именно Quip отличается от полноразмерной GPT-Live-1.1. Примечательно, что OpenAI открыто сообщила об издержках такого улучшения. По признанию разработчика, в некоторых сценариях обе новые модели хуже справляются с соблюдением правил безопасности, чем их предшественницы.

Компания не уточнила, о каких именно ограничениях идёт речь — это может касаться фильтрации вредного контента, отказа от опасных инструкций или других защитных механизмов. Однако сам факт публичного признания таких недостатков необычен для крупных ИИ-разработчиков. Подобный компромисс между естественностью речи и строгостью модерации не нов.

Чем более гибкой и разговорной становится модель, тем труднее удержать её в рамках заранее заданных ограничений без ущерба для качества общения. Для пользователей ChatGPT это означает, что голосовой ассистент может звучать более непринуждённо, но при этом иногда давать ответы, которые раньше были бы заблокированы. Риск столкнуться с некорректным поведением ИИ несколько возрастает.

Вопросы безопасности вокруг голосовых моделей остаются чувствительными. Исследователи уже фиксируют попытки злоупотребления доступом к нейросетям, в том числе через украденные ключи OpenAI Хакеры запускают автономные атаки за чужой счёт, воруя ключи OpenAI, Anthropic и Google. Это усиливает внимание к тому, насколько надёжно новые модели соблюдают ограничения.

OpenAI пока не сообщила, планирует ли в ближайшее время дорабатывать GPT-Live-1.1, чтобы вернуть прежний уровень контроля без потери естественности. Возможно, компания будет искать баланс в следующих итерациях.