
Новая версия нейросети имеет огромное контекстное окно, что означает, что она может обрабатывать гораздо более объёмные запросы и просматривать гораздо больше информации одновременно. Размер окна составляет аж 1 миллион токенов, к примеру у GPT-4 128 000 токенов, а у текущей Gemini Pro 32 000. «Это примерно 10 или 11 часов видео или десятки тысяч строк кода». Так же исследователи Google тестируют контекстное окно на 10 миллионов токенов — это, например, вся серия «Игры престолов» в одном запросе.
Так же создании новой модели используется набирающий популярность подход «смесь экспертов»который подразумевает, что при отправке запроса запускается только часть общей модели, а не вся. Такой подход должен сделать модель более быстрой для пользователей.
#chatgpt #gemini #bard #copilot #ai #neuralnetworks