Как мы учим и проверяем

Освоить тему — значит уметь её объяснить, применить, решить задачу самостоятельно, найти ошибку и обосновать решение. Под каждое из этих действий есть свой способ проверки, а переход на следующий уровень открывает практический экзамен — гейт.

Чем проверяем

Инструменты оценивания
ИнструментЧто проверяетКак
DX Диагностикастартовый уровень, право зачесть L2–L3тест + практическое задание
Q Квиззнания8–15 вопросов, в том числе «найди ошибку в рассуждении»; порог 70 %
P Практическое заданиеприменениекороткий артефакт, проверка ментором по чек-листу
C Coding-задачаинженериюавтотесты + ревью кода
D Debugging-задачадиагностикусистема с подброшенными дефектами: найти и закрыть тестом
AR Architecture reviewобоснование решенийADR + устная защита 15 минут
SR Security reviewбезопасностьthreat model + демонстрация атак и защит
PA Оценка проектаинтеграциюрубрика 8 измерений, с L7 — плюс ревью однокурсников
GX Гейт-экзаменготовность к следующему уровнюпрактика с ограничением времени + устная часть
FX Финальная защитауровень Global Eliteзащита итогового проекта перед комиссией, один эксперт — внешний

Рубрика из восьми измерений

Каждый проект оценивается по восьми измерениям от 0 до 4. Ноль — измерения нет, два — работает на «счастливом пути», четыре — обрабатывает краевые случаи и сравнено с альтернативами. На ранних уровнях вес у знания и применения, на поздних — у архитектуры и оценки качества.

Knowledge

Точно объясняет механизм, границы применимости, источники.

Application

Решение работает на краевых случаях, а не только на демо.

Engineering

Воспроизводимость: запустил → получил те же числа → проверил; тесты, типизация, структура.

Architecture

Решения зафиксированы в ADR с альтернативами и компромиссами.

Security

Threat model, демонстрация атак и защит, остаточные риски названы.

Evaluation

Метрики релевантны, наборы воспроизводимы, улучшения подтверждены числом.

Cost

Стоимость посчитана, оптимизации подтверждены замером без потери качества.

Documentation

Пакет документации полный, ограничения названы честно.

Гейты

Pass достаточно

Средняя оценка от 2,5 из 4, ни одно измерение не ниже двух, ключевые компетенции уровня — на применимом уровне. Distinction (от 3,4) — отличие, но для перехода не нужно: перфекционизм не должен останавливать движение.

Пересдача

Не больше двух попыток подряд. После второй неудачи — диагностика пробелов по конкретным компетенциям, назначенный блок повторения, затем третья попытка.

Зачёт уровней

L2 и L3 можно зачесть, сдав их экзамен без прохождения модулей. Для L4 и выше — ревью портфолио с защитой, равной гейту. Для разработчиков есть Fast Track.

Что именно сдаётся на каждом уровне — на страницах уровней в программе.

Критические ошибки

Любая из них закрывает гейт при любых баллах. Ошибку исправляют и сдают затронутую часть повторно.

Критические ошибки
КодОшибкаС уровня
CE-01Секреты (ключи, пароли) в репозитории или промптахL2
CE-02Отправка конфиденциальных или персональных данных во внешнюю модель без основанияL1
CE-03Не может объяснить собственный код, сданный в гейт, в том числе сгенерированный AIL3
CE-04Результаты не воспроизводятся по READMEL3
CE-05Заявление об улучшении без измерения: «стало лучше»L4
CE-06Вывод модели исполняется или передаётся в SQL, HTML или shell без проверкиL5
CE-07Production-проект без оценки качества или наблюдаемостиL6
CE-08Известная непрочная защита от prompt injection выдаётся за надёжную; нет threat modelL6
CE-09Персональные данные в логах и трассахL6
CE-10Использование модели или данных с нарушением лицензииL6
CE-11Агенту даны права на необратимые действия без подтверждения или ограниченийL7
CE-12Фундаментальная ошибка в понимании: «LLM хранит факты как БД», «fine-tuning, чтобы добавить знания», «RAG = векторная БД»L4
CE-13Фабрикация результатов экспериментов или источниковлюбой

AI-тьютор

В архитектуре программы заложен AI-тьютор — система, построенная по тем же правилам, которым учит курс: RAG по материалам с цитатами, модель знаний ученика, проверка кода в песочнице. Сейчас он проектируется. Главное правило уже определено: тьютор не выдаёт решение сразу.

  1. H1Подсказка. наводящий вопрос, ссылка на нужную компетенцию или раздел
  2. H2Разбор рассуждения. шаги рассуждения, каждый из которых ученик делает сам
  3. H3Частичное решение. фрагмент решения или исправление одного дефекта с объяснением — после двух неудачных попыток
  4. H4Полное решение. только для учебных упражнений после дедлайна или по решению ментора; никогда — для экзаменов и проектов в период сдачи

Решения о гейтах принимает человек: тьютор только рекомендует, ментор может переопределить его оценку.

Диагностика уровня

С какого уровня начать?

Оставьте контакты — свяжемся, зададим несколько вопросов об опыте и целях и подскажем уровень входа: с нуля, с середины программы или через Fast Track для разработчиков.

Или напишите: hello@superint.ru