OpenAI розкрила подробиці роботи GPT-Live — нової голосової системи для ChatGPT, яка має зробити спілкування з чат-ботом максимально природним. Головна зміна полягає в тому, що користувачам більше не потрібно чекати пауз, поки система визначить завершення фрази та сформує відповідь, повідомляє androidheadlines.com.
Раніше ChatGPT Voice використовував спеціальні алгоритми, які визначали момент, коли людина закінчила говорити. Це нерідко призводило до незручних пауз або випадків, коли система перебивала співрозмовника. GPT-Live працює інакше: він одночасно слухає користувача та генерує відповідь, постійно вирішуючи, коли говорити, слухати чи зробити паузу.
Для зменшення затримок OpenAI розділила систему на два рівні. Швидкий канал відповідає за безперервну передачу голосу в реальному часі, а складніші завдання, зокрема пошук інформації в інтернеті, виконання коду чи робота з потужнішими моделями, обробляються окремо. Завдяки цьому розмова не переривається навіть під час виконання складних запитів.
Компанія також оновила технічну основу сервісу. Замість попередньої інфраструктури на Python використовується Go, що підвищило стабільність передачі аудіо. Крім цього, OpenAI представила новий протокол WARP і технологію Instant Connect, які значно скорочують час встановлення голосового з’єднання.
За словами OpenAI, така архітектура дозволяє зробити голосове спілкування з ChatGPT набагато природнішим. Модель здатна підтримувати безперервний діалог, швидше реагувати на слова користувача та уникати довгих затримок, які були характерні для попередніх версій голосового режиму.
