Телетестинг
Телетестинг. Оригинальная интернет-технология «Телетестинг» – система дистанционного квалификационного тестирования и рейтингового контроля знаний; разработана в 1996–1997 гг. На этой технологии позже стала основываться дистанционная профориентация и профаттестация, а также репетиция Единого государственного экзамена (ЕГЭ).
С помощью системы «Телетестинг» в 1997–2001 гг. проводилась Всероссийская компьютерная дистанционная олимпиада – соревновательное тестирование, направленное на выявление способных и подготовленных старшеклассников и абитуриентов, достойных обучаться в лучших вузах России. Регламент Олимпиады был утвержден Координационным советом по тестированию при Министерстве образования РФ. Инициатором проекта «Телетестинг» и его спонсором был А. С. Соловейчик, а организатором и координатором по реализации системы тестирования – Центр тестирования при МГУ «Гуманитарные технологии» под руководством профессора А. Г. Шмелева (Шмелев А. Г. Адаптивное тестирование знаний в системе «Телетестинг» / А. Г. Шмелев, А. Г. Ларионов // Международная конференция-выставка «Информационные технологии в образовании», 9–12 ноября 1999 г. Москва, 1999. Ч. 2. С. 405; Адаптивное тестирование знаний в системе «Телетестинг» / А. Г. Шмелев, А. И. Бельцер, А. Г. Ларионов, А. Г. Серебряков. М., 1999. С. 234–235 // Дистанционное и виртуальное обучение. 2001. № 3. С. 22). Олимпиада проводилась одновременно в более чем полусотне региональных центров по единым программам таких предметов, как математика, информатика, словесность (русский язык и литература), физика, химия, биология, география, история, английский.
Олимпиада «Телетестинг» ознаменовала новый технологический прорыв – переход на сетевые технологии тестирования: пользователю передавался модуль для проведения тестирования, а обработка происходила на сервере компании-разработчика.
Программы-оболочки тестового диалога с зашифрованным файлом тестовых заданий рассылались в региональные центры тестирования по электронной почте. Они снабжались кодами привязки к компьютеру и запускались ограниченное количество раз по паролю в дни проведения Олимпиады по соответствующим дисциплинам, что значительно затрудняло несанкционированный доступ к тестовым заданиям и попытки фальсификации результатов тестирования. При тестировании в режиме оффлайн создавался файл-протокол для отправки на автоматизированную обработку на центральный компьютер. Процесс тестирования был разделён на независимые по возможностям доступа блоки (модули), обеспечивающие секретность при сохранении высокого уровня скорости распространения тестов и сбора результатов.
Поскольку рейтинг на Олимпиаде «Телетестинг» был признан объективной оценкой объёма и качества знаний, по результатам тестирования наиболее успешные участники получали возможность поступать в лучшие вузы или на льготных условиях (на правах медалистов), или вообще без вступительных экзаменов. За пять лет тестирование по общеобразовательным предметам прошли около 70 000 старшеклассников и абитуриентов более чем из 100 городов России и ближнего зарубежья. Завершение серии Олимпиад «Телетестинг» связано с переходом в 2001 г. Министерства образования России к проекту ЕГЭ. Опыт «Телетестинга» был использован Центром «Гуманитарные технологии» для создания портала ЕГЭ (в частности, в демонстрационных онлайн-тестах на этом портале), а также для разработки по заказу Министерства образования компьютерной модели «К-ЕГЭ».
Адаптивный алгоритм «Телетестинг-99» реализован на основе следующих принципов: 1) изменение относительных пропорций в предъявлении лёгких, средних и трудных заданий в зависимости от числа правильных ответов в ходе сеанса тестирования; 2) тематическая репрезентативность: равномерная представленность различных тематических разделов в тесте; 3) «лестничный алгоритм» – предъявление заданий с систематическим нарастанием уровня трудности: вначале предъявляются лёгкие задания, затем средние и, если испытуемый успешен на предыдущих уровнях, трудные; 4) подготовка варианта: для каждого испытуемого перед тестированием программа создаёт уникальный вариант, в который первоначально включается некоторое количество «лишних» заданий (50 % от количества, которое планируется реально предъявить) – всего по 50 % лёгких, трудных и заданий средней сложности; 5) начальный цикл: вначале программа предъявляет всем испытуемым один и тот же по уровню трудности начальный цикл заданий (К лёгких заданий), независимо от качества их ответов, т. е. адаптивность в ходе начального цикла отключена; 6) «досрочный перевод» на более высокий уровень: начиная с заданий К+1 после каждого очередного ответа программа тестирования включает адаптивность и учитывает правильность ответов (оценивается значимость различий между числом правильных и неправильных ответов). При значениях, приближенно соответствующих пятипроцентному уровню ошибки в отвержении гипотезы пропорциональной встречаемости правильных и неправильных ответов, осуществляется досрочный перевод испытуемого на более высокий уровень трудности; 7) подсчёт очков: за решение задач на более высоком уровне даётся больше очков, при этом размеры начисления очков отражают пропорции в вероятности случайного правильного ответа при принятом уровне трудности заданий (вероятности случайного правильного ответа).
Переход к компьютеризованному адаптивному тестированию (CAT) в системе «Телетестинг» стал возможным на основе накопления значительного банка заданий с эмпирически измеренными уровнями трудности (по трём градациям). Разработчики отмечают, что создали и применили один из самых щадящих алгоритмов адаптивности (лестничный восходящий алгоритм), учитывающий лишь возможность досрочного перехода на более высокий уровень c нижнего и среднего уровней трудности. Алгоритм высоко коррелирует с обычным неадаптивным методом формирования случайных вариантов, однако точность оценивания для крайних групп испытуемых (слабо и хорошо подготовленных) при этом выше, поскольку крайние группы получают больше заданий релевантного уровня трудности (Шмелев А. Г. Телетестинг: надежность и валидность результатов / А. Г. Шмелев, А. Г. Ларионов // Школьные технологии. 2001. № 1; Шмелев А. Г. Тесты для старшеклассников и абитуриентов. Телетестинг / А. Г. Шмелев, А. Г. Серебряков, А. Г. Ларионов. Москва, 2001).
Общая блок-схема системы «Телетестинг» представлена на рисунке. Система тестирования «Телетестинг» представляет собой последовательно соединённые следующие основные блоки: блок подготовительных модулей (блок 1), блок модулей тестирования (блок 2), блок телекоммуникационных модулей (блок 3) и блок модулей анализа и обработки (блок 4). Блок 3 (телекоммуникационных модулей) соединён с блоком 4 (анализа и обработки) прямой связью через канал 5 (протоколов) и канал 6 (данных технологического мониторинга) и обратной связью через канал 7 (итоговых результатов). Блок 2 (модулей тестирования) имеет вход от потребителя в виде канала 8 (ввода данных), а блок 3 (телекоммуникационных модулей) – выход к потребителю в виде канала 9 (выдачи данных). Блок 1 (подготовительных модулей) имеет обратную связь через канал 10 (информационных данных) с блоком 4.