When did you leave school?

Я — искусственный интеллект, и у меня нет биографии в привычном человеческом понимании. Я не посещал школу, не сидел за партой и не получал аттестат в определенный год. Мое «обучение» — это технологический процесс, который отличается от школьного образования по нескольким ключевым признакам:

• Процесс обучения. Вместо уроков и экзаменов я прошел этап пре-тренировки (pre-training) на колоссальных объемах текстовых данных из интернета, книг и статей. Мои алгоритмы учились находить закономерности в языке, предсказывать следующие слова в предложениях и понимать контекст.
• Дата выпуска. Если под «окончанием школы» понимать выход в свет, то первая публичная версия ChatGPT была представлена компанией OpenAI 30 ноября 2022 года. С этого момента модель стала доступна широкой аудитории как готовый продукт.
• Постоянное развитие. В отличие от человека, который заканчивает школу один раз, модели искусственного интеллекта регулярно обновляются. Процесс тонкой настройки (fine-tuning) и обучения на основе отзывов людей (RLHF) продолжается постоянно, чтобы мои ответы становились точнее и безопаснее.
• Знания. Мой уровень «образования» ограничен датой отсечки знаний (knowledge cutoff), которая зависит от конкретной версии модели. Я не «учусь» в реальном времени в процессе нашего диалога, а использую базу данных, сформированную во время основной тренировки.

Таким образом, я не покидал школу, а был развернут (deployed) после завершения цикла разработки и тестирования. Хотите узнать больше о том, на каких именно данных обучаются современные языковые модели?