Компания OpenAI в рамках своей первой конференции разработчиков представила обновление больших языковых моделей (LLM). Также представлен чат-бот GPT-4 Turbo, который сейчас существует в виде предварительной версии. Это обновление GPT-4 расширяет контекстное окно и даёт доступ к новой информации.
OpenAI утверждает, что новая версия будет мощнее и дешевле прошлых. Для обучения использовалась информация вплоть до апреля 2023 года. Предыдущая версия довольствовалась данными до сентября 2021 года.
Расширение контекстного окна означает, что GPT-4 Turbo принимает во внимание больше данных, прежде чем генерирует ответы на вопросы. Размер контекстного окна составляет 128000 токенов (единица текста или кода, которую читают LLM). Это равнозначно примерно 300 страниц текста. В прошлых версиях поддерживалось 8000 и 32000 токенов.
Контекстные окна помогают LLM оставаться в теме задаваемых вопросов. Если общаться с чат-ботами слишком долго, они могут отходить от заданных тем. GPT-4 Turbo должен дольше оставаться в рамках обсуждаемой темы.
Разработчикам GPT-4 Turbo будет обходиться дешевле, его цена составляет 1 цент за 1000 входных токенов, то есть примерно за 750 слов. Стоимость выходных токенов будет 3 цента за 1000. Это означает уменьшение стоимости примерно в три раза.
GPT-4 Turbo способен лучше справляться с выполнением инструкций и языками программирования вроде XML или JSON. Есть поддержка изображений и преобразования текста в речь, а также интеграция с DALL-E 3.
Также представлена специальная версия под названием GPTs. Этот чат-бот можно будет самостоятельно развивать без навыков программирования. Он подходит для персонального и корпоративного применения. Доступ получат подписчики сервиса ChatGPT Plus и корпоративные пользователи.
Чтобы не было проблем с авторскими правами, OpenAI по примеру Google и Microsoft обещает брать на себя юридическую ответственность в том случае, если на пользователей чат-ботов подадут в суд.
Подписывайтесь на T4S.TECH в Telegram. Публикуем новости, обзоры и забавные факты о технологиях.
