Hello, LLM! для 4-го курса ФПЛ (2025/2026)
==========================================

В рамках предмета
`“Информационный поиск и извлечение данных” <https://nnov.hse.ru/ba/ling/courses/1048893210.html>`__
в НИУ ВШЭ - Нижний Новгород.

Преподаватели:
--------------

-  `Демидовский Александр
   Владимирович <https://www.hse.ru/staff/demidovs>`__ - лектор
-  `Сальников Игорь Геннадьевич <https://github.com/SalnikovIgor>`__ -
   преподаватель практики
-  `Тугарёв Артём Михайлович <https://t.me/artyomtugaryov>`__ -
   преподаватель практики


Эксперты:
~~~~~~~~~

-  `Жариков Егор Игоревич <https://t.me/godb0i>`__
-  `Ураев Дмитрий Юрьевич <https://t.me/radian2pk>`__


Студенческая исследовательская бригада:
~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~

-  `Нуртдинова Софья Алексеевна <https://t.me/sunrielly>`__
-  `Подпрятова Анна Сергеевна <https://t.me/anpruch>`__


План лабораторных работ:
------------------------

1. `Лабораторная работа №7. Оценка нейросетевой языковой модели <https://github.com/fipl-hse/2025-hello-llm/tree/main/lab_7_llm>`__

   1. Дедлайн: **9 февраля**

2. `Лабораторная работа №8. Тонкая настройка нейросетевой языковой модели <https://github.com/fipl-hse/2025-hello-llm/tree/main/lab_8_sft>`__

   1. Дедлайн: **2 марта**


История занятий
---------------

+------------+----------------------+--------------------------------------------------------------+
| Дата       | Тема лекции          | Тема практики. Материалы практики.                           |
+============+======================+==============================================================+
| 12.01.2026 | Современные задачи в | Создание форка.                                              |
|            | области NLP. Анонс   | Загрузка датасета из HuggingFace.                            |
|            | лабораторной работы. | `Листинг <https://github.com                                 |
|            |                      | /fipl-hse/2025-hello-llm/blob/main/seminars                  |
|            |                      | /seminar_01_12_2026/try_datasets.py>`__                      |
+------------+----------------------+--------------------------------------------------------------+
| 19.01.2026 | Токенизация.         | Подготовка датасета.                                         |
|            | Анализ и инференс    | `Листинг <https://github.com                                 |
|            | языковых моделей.    | /fipl-hse/2025-hello-llm/blob/main/seminars                  |
|            |                      | /seminar_01_12_2026/try_pandas.py>`__                        |
|            |                      | Перегрузка протоколов датасета.                              |
|            |                      | `Листинг <https://github.com                                 |
|            |                      | /fipl-hse/2025-hello-llm/blob/main/seminars                  |
|            |                      | /seminar_01_12_2026/try_iter_data.py>`__                     |
|            |                      | Анализ ``PyTorch`` модели.                                   |
|            |                      | `Листинг <https://github.com                                 |
|            |                      | /fipl-hse/2025-hello-llm/blob/main/seminars                  |
|            |                      | /seminar_01_19_2026/try_info.py>`__.                         |
|            |                      | Инференс модели.                                             |
|            |                      | `Листинг <https://github.com                                 |
|            |                      | /fipl-hse/2025-hello-llm/blob/main/seminars                  |
|            |                      | /seminar_01_19_2026/try_model.py>`__.                        |
+------------+----------------------+--------------------------------------------------------------+
| 26.01.2026 | Пакетная обработка   | Упаковка семплов через ``DataLoader``.                       |
|            | при инференсе        | `Листинг <https://github.com                                 |
|            | языковых моделей.    | /fipl-hse/2025-hello-llm/blob/main/seminars                  |
|            |                      | /seminar_01_26_2026/try_dataloader.py>`__.                   |
|            |                      | Инференс генерационной модели.                               |
|            |                      | `Листинг <https://github.com                                 |
|            |                      | /fipl-hse/2025-hello-llm/blob/main/seminars                  |
|            |                      | /seminar_01_26_2026/try_generation.py>`__                    |
|            |                      | Инференс NLI модели.                                         |
|            |                      | `Листинг <https://github.com                                 |
|            |                      | /fipl-hse/2025-hello-llm/blob/main/seminars                  |
|            |                      | /seminar_01_26_2026/try_nli.py>`__                           |
+------------+----------------------+--------------------------------------------------------------+
| 02.02.2026 | Оценка качества      | Оценка качества модели.                                      |
|            | модели. Модель как   | `Листинг <https://github.com                                 |
|            | сервис.              | /fipl-hse/2025-hello-llm/blob/main/seminars                  |
|            |                      | /seminar_02_02_2026/try_evaluate.py>`__.                     |
|            |                      | Модель как сервис.                                           |
|            |                      | `Листинг <https://github.com                                 |
|            |                      | /fipl-hse/2024-hello-llm/blob/main/seminars                  |
|            |                      | /seminar_02_02_2026/try_fastapi.py>`__.                      |
+------------+----------------------+--------------------------------------------------------------+
| 09.02.2026 | Тонкая настройка     | Сдача лабораторной работы №7.                                |
|            | языковых моделей     | Тонкая настройка модели.                                     |
|            | с помощью метода     | `Листинг <https://github.com                                 |
|            | ``LoRA``.            | /fipl-hse/2025-hello-llm/blob/main/seminars                  |
|            |                      | /seminar_02_09_2026/try_sft.py>`__                           |
+------------+----------------------+--------------------------------------------------------------+
| 16.02.2026 | Ускорение инференса  | Использование GPU.                                           |
|            | языковых моделей.    | `Листинг <https://github.com                                 |
|            |                      | /fipl-hse/2025-hello-llm/blob/main/seminars                  |
|            |                      | /seminar_02_16_2026/try_gpu.py>`__                           |
|            |                      | Конвертация PyTorch модели в ONNX формат.                    |
|            |                      | `Листинг <https://github.com                                 |
|            |                      | /fipl-hse/2024-hello-llm/blob/main/seminars                  |
|            |                      | /seminar_02_16_2026/try_torch_to_onnx.py>`__.                |
|            |                      | Инференс модели с помощью ONNX.                              |
|            |                      | `Листинг <https://github.com                                 |
|            |                      | /fipl-hse/2024-hello-llm/blob/main/seminars                  |
|            |                      | /seminar_02_16_2026/try_onnx.py>`__.                         |
+------------+----------------------+--------------------------------------------------------------+
| 02.03.2026 | N/A                  | Сдача лабораторной работы №8.                                |
+------------+----------------------+--------------------------------------------------------------+

Более полное содержание пройденных занятий Вы найдете
`здесь <https://fipl-hse.github.io/docs/llm_2025/lectures_content_ru.html>`__.

Литература
----------

Базовый уровень
~~~~~~~~~~~~~~~

1. `HuggingFace NLP Course <https://huggingface.co/learn/nlp-course/chapter1/1>`__.

Порядок сдачи и оценивания лабораторной работы
----------------------------------------------

1. Лабораторная работа допускается к очной сдаче.
2. Студент объяснил работу программы и показал её в действии.
3. Студент выполнил задание ментора по некоторой модификации кода.
4. Студент получает оценку:

   1. Соответствующую ожидаемой, если все шаги выше выполнены и ментор
      удовлетворён ответом студента.
   2. На балл выше ожидаемой, если все шаги выше выполнены и ментор
      решает поощрить студента за отличный ответ.
   3. На балл ниже ожидаемой, если лабораторная работа сдана на неделю
      позже срока сдачи и выполнены критерии в 4.1.
   4. На два балла ниже ожидаемой, если лабораторная работа сдана на две
      недели позже от срока сдачи и выполнены критерии в 4.1.

.. note:: Студент может улучшить оценку по лабораторной работе,
          если после основной сдачи выполнит задания следующего уровня
          сложности относительно того уровня, на котором выполнялась реализация.

**Лабораторная работа допускается к очной сдаче, если она:**

1. Представлена в виде пулл реквеста (Pull Request, PR) с правильно
   составленным названием по шаблону:
   ``Laboratory work #<NUMBER>, <SURNAME> <NAME> - <UNIVERSITY GROUP NAME>``.

   1. Пример: ``Laboratory work #1, Kashchikhin Andrey - 21FPL1``.

2. Имеет заполненный файл ``settings.json`` с ожидаемой оценкой.
   Допустимые значения: 4, 6, 8, 10.
3. Имеет “зелёный” статус - автоматические проверки качества и стиля
   кода, соответствующие заданной ожидаемой оценке, удовлетворены.
4. Имеет лейбл ``done``, выставленный ментором. Означает, что ментор
   посмотрел код студента и удовлетворён качеством кода.

Ресурсы
-------

1. `Таблица
   успеваемости <https://docs.google.com/spreadsheets/d/1IGAPCXsjj6dmxrdGqRemwfq5BtLDDxrrNcz-omkEHGs/edit?usp=sharing>`__
2. `Таблица c моделями и
   датасетами <https://docs.google.com/spreadsheets/d/1UEEylqXeSjtFyUtPzyEMiFhhdCukmmuIG4d1ne0y_mU/edit?usp=sharing>`__
3. `Сайт дисциплины <https://fipl-hse.github.io/docs/llm_2025/#>`__
4. Инструкция по подготовке к прохождению курса
   `на сайте <https://fipl-hse.github.io/docs/useful_docs/general_docs/starting_guide_ru.html>`__
5. Инструкция по запуску тестов
   `на сайте <https://fipl-hse.github.io/docs/useful_docs/general_docs/tests.html>`__
6. Инструкция по запуску ``.py`` файлов в терминале
   `на сайте <https://fipl-hse.github.io/docs/useful_docs/general_docs/run_in_terminal_ru.html>`__
7. Инструкция по обновлению форка
   `на сайте <https://fipl-hse.github.io/docs/useful_docs/general_docs/fork_update.html>`__
8. Ответы на часто задаваемые вопросы
   `на сайте <https://fipl-hse.github.io/docs/useful_docs/general_docs/FAQ.html>`__