Сегодня тема искусственного интеллекта (ИИ) выходит в центр международных, экономических и политических новостей. Образование не стало исключением. Интеграция ИИ в школьную систему открывает перед нами невиданные возможности для трансформации процесса обучения.
Однако, вместе с возможностями появляются и вызовы: как сохранить баланс между технологиями и человеческим фактором? Как использовать ИИ этично и безопасно? Статья эксперта Обрсоюза Вадима Чехи, доктора юридических наук, посвящена анализу истории и будущих возможностей использования ИИ в школах.
Однако, вместе с возможностями появляются и вызовы: как сохранить баланс между технологиями и человеческим фактором? Как использовать ИИ этично и безопасно? Статья эксперта Обрсоюза Вадима Чехи, доктора юридических наук, посвящена анализу истории и будущих возможностей использования ИИ в школах.
Искусственный интеллект в виде «разумных» роботов (далее также – ИИ) сам по себе представляет собой весьма распространенный сюжет для художественных фильмов. Нарративы про роботов, обладающих разной степенью разумности, использовались в сценариях художественных фильмов едва ли не с самого начала эпохи кино.
Как правило, первые фильмы о роботах основывались на художественной пересборке сюжета фантастической пьесы Карела Чапека «R.U.R.» («Россумские универсальные роботы»). Так, в частности, советский фантастический фильм «Гибель сенсации» («Робот Джима Рипль»), 1935 года, обыгрывает образы и знаки, маркирующие роботов как средство замены рабочих и орудие их порабощения в интересах капиталистов. Характерно, что сценарий фильма включает и образовательную тему — трагически обыгранные сомнения выпускников Политехнического техникума в возможности найти работу в условиях планов капиталистов ликвидировать пролетариат за счет внедрения «универсальных машин, выполняющих функции разумного существа, имеющего форму человеческого тела». Именно так, по сюжету, именуются роботы с ИИ. Естественно, что фильм заканчивается успешным восстанием пролетариата с массовым переходом роботов на «правильную» сторону.
В рамках значительного количества художественных фильмов, обыгрывающих истории с роботами с ИИ, возможно выделить достаточно большое количество фильмов, посвященных ИИ в школе. Рассмотрим некоторые из них.
Среди наиболее известных фильмов такого рода возможно выделить «Приключения Электроника», 1979 года, режиссера Константина Бромберга. Его содержание известно большинству людей, проживающих в государствах бывшего СССР.
Основная сюжетная линия фильма связана с неудачной попыткой школьника Сергея Сыроежкина использовать случайно найденного дубля — робота Электроника с ИИ — для подмены себя во время учёбы в школе. Данный робот с искусственным интеллектом вступает в образовательные отношения под видом Сыроежкина, не проявляя при этом каких-либо эмоций. При этом Электроник показывает выдающиеся, потрясающие всю школу способности и в обучении, и в спорте.
Сыроежкин таким образом приобретает возможность не ходить в школу и жить, не напрягаясь, в своё удовольствие. Однако по ходу фильма у Электроника постоянно возникают проблемы, связанные с тем, что он, по сути, проживает чужую жизнь. Такая перспектива не устраивает ни Электроника, ни, в конечном итоге, Сыроежкина.
Главный лейтмотив, предопределяющий действия и робота, и реального ученика в школе, выражен словами «стать человеком». Присвоение такого стремления у ИИ отчасти восходит к гуманистической традиции советской педагогики, заложенной, в том числе, В. А. Сухомлинским.
Обратим внимание на то, что робот показан как очевидно не подходящий для того, чтобы выступать учеником в образовательных отношениях, но, тем не менее, не опасный и даже очень привлекательный для учеников и педагогов субъект взаимодействия. Фильм даёт надежду на то, что ИИ может потенциально «гуманизироваться» и стать человеком в полном смысле этого слова, по крайней мере, в условиях школы.
Другой, менее известный фильм второй половины ХХ века — «Волшебник», 1969 года (Венгрия, режиссёр — Дьёрдь Палашти). Главный герой фильма — ученик школы Дюси Балога — симпатичный лентяй и оболтус, имеющий, однако, друга — волшебника дядю Чиличало.
По просьбе Дюси волшебник создаёт его точную копию — робота, который призван обеспечить учебные успехи мальчика. Робот представляет собой классическую машину в человеческом обличье, в которую, тем не менее, возможно загружать, в прямом смысле, учебники и энциклопедии, содержание которых ИИ воспроизводит на уроках.
Выдающиеся учебные успехи, относящиеся к сфере высшей математики, потрясённому учителю робот-дублёр объясняет тем, что «в него заложена целая энциклопедия».
Однако данный фильм явственно и инструментально — в соответствии с европейской традицией рациональности — показывает основную проблему ИИ в школе, связанную с его структурообразующим свойством — алгоритмичностью. Алгоритм предопределяет действия робота без какого-либо учёта контекста, если такого рода учёт не заложен в него, или заложенный алгоритм понимает необходимость учёта контекста по-своему, не так, как от него ожидают.
Во время прихода на урок директора школы с целью посмотреть на неожиданно выдающиеся успехи ученика — бывшего лентяя, робот-дублёр начинает действовать неадекватно, так как «запрограммирован вмазать» другому ученику — такую команду в алгоритм робота заложил Дюси, чтобы наказать своего обидчика.
Таким образом, сюжет «робот в школе» в данном случае представлен как весёлая комедия с назиданием школьникам о том, что «надо учиться самому». Философские вопросы, касающиеся моральных и онтологических аспектов использования ИИ в школе, оставлены за скобками.
Более современный американский фантастический фильм «Класс» 1999 года (режиссер Марк Л. Лестер) затрагивает другую тему, связанную с использованием ИИ не вместо учеников, а в качестве замены учителей.
Американская школа «Кеннеди» в данном фильме представляет собой что-то среднее между бараком в лагере ГУЛАГа с господством «уркаганов», наркопритоном на частной квартире где-нибудь на окраине российского города в 90-х годах прошлого века и 13-м районом в одноименном художественном фильме 2004 года (продюсер Люк Бессон).
Для прекращения разгула преступности в школе Министерство образования, которое также называется «Министерством образовательной обороны», направило в школу роботов в виде трех учителей-предметников (учителя химии, истории и физической культуры) со встроенной программой преподавания и наведения какого-либо порядка.
Создатели называют роботов «суперучителями» – лучшими педагогами, которых можно отыскать, которые также оборудованы системой для случаев нарушения дисциплины.
Роботы достаточно быстро наводят дисциплину в школе, однако программа даёт сбой, во многом благодаря заложенной в ИИ возможности агрегировать и перерабатывать полученные в ходе взаимодействия с окружающей средой данные. Такого рода свойство ИИ приводит к тому, что в роботах пробуждается заложенная в них ранее, их предшествующая военная специализация, предполагающая использование ими гранатомётов, огнемётов и щипцов. В итоге, «суперучителя», при наведении порядка, оставляют за собой гору трупов в школе и рядом с ней, включая директора. Вышедший из-под контроля ИИ в конечном итоге убивает также своих создателей — учёных из корпорации МЕГАТЕК.
В роли спасителя вынужден был выступать ученик, недавно вышедший из тюрьмы, по имени Коуди, который в итоге становится положительным героем и побеждает ИИ за счёт своих высоких моральных качеств.
Сюжет данного фильма явственно показывает опасность выхода ИИ из-под контроля. Данный фильм содержит обращение к создателям программ ИИ о необходимости недопущения сбоев в автономной интерактивной машине, не поддающейся полному контролю со стороны человека, но предназначенной для участия в образовательных отношениях.
Этот фильм возвращает нас к тезису Айзека Азимова в романе «Академия и Земля» (1986 год) о том, что «робот не может навредить человечеству или своим бездействием допустить, чтобы ему был нанесён вред».
Рассмотрим ещё один фильм — «Мой друг робот», 2016 год, режиссёр Вольфганг Гроос (Германия — Бельгия). Робот с ИИ (Робби) — симпатичное существо, становится близким другом для Тобби — талантливого ученика младшей школы, который выступает в роли жертвы абьюза со стороны одноклассников.
Школьника не понимают дома: доминирующая в семье мама — автомеханик, и мягкотелый папа, в фартуке готовящий обеды, требуют от него найти друзей среди антипатичных ему одноклассников. Мама, как носитель мужских черт характера, насильно записывает Тобби на секцию хоккея.
Убывающая и ускользающая в современной Европе мужественность иногда проявляется в фильме в виде её задвинутых на обочины жизни маргинальных носителей — банды байкеров, которых робот называет «бородатыми дамами», и полусумасшедшего одноглазого смотрителя маяка — современной версии Билли Бонса.
В конце концов, робот с ИИ, выступающий носителем определённого рода моральной агентности, находит своё место в качестве друга Тобби. Включение в число участников сюжета родителей робота, а также саамской девочки-охотника, придаёт фильму необходимую степень законченности в части соответствия современным мультикультурным трендам. Именно эти тренды побеждают немного смешных, но отрицательных героев фильма, исповедующих принцип «в мире есть два типа людей: одни приказывают, другие исполняют».
Последний фильм в нашей статье — российский фильм «Роббо», 2019 года, режиссёр Сарик Андреасян. Данный фильм, как и предыдущий — «Мой друг робот», акцентуализирует моральный контекст деятельности ИИ в его взаимодействии с детьми. Данный моральный контекст предопределяет содержание взаимодействия робота с ИИ и мальчика Мити.
Сбой в программе робота заставляет его сбежать из лаборатории от инженеров, которые хотят утилизировать робота. При этом, в результате сбоя в программе, робот нацелен на «поиск семьи».
В результате робот становится настоящим другом ученика младших классов, который идёт на жертвы и прячет его от потенциальных утилизаторов. Эта дружба развивается на фоне разрастающегося непонимания между мальчиком и его родителями, желающими видеть в сыне будущего инженера «как мама и папа», вопреки его способностям к эмоциональной эмпатии, проявляющейся в интересе к рисованию.
На этом фоне симпатичный робот находит друзей также и среди одноклассников Мити. Отношения между детьми и роботом выстраиваются не по принципу иерархии «человек приказывает машине выполнять работу», а по принципу «горизонтального взаимодействия». Участники такого взаимодействия произносят ключевые для темы «ИИ в школе» фразы: «Робот — не машина; я ему не приказывал. Мы вместе с ним общаемся и решаем, что нужно делать», «друзья не приказывают», «робот не опасен».
В конечном итоге, робот, рискуя собой, спасает детей, проходя таким образом ритуальный обряд окончательного обретения ИИ моральной агентности.
Изложенное показывает, насколько многообразны и сложны вопросы, связанные с ИИ в школе. Безусловно, ИИ, конечно же, может дать сбой в ходе своего внедрения в образовательные отношения. Однако этот сбой вполне может оказаться положительным с точки зрения укрепления и развития этих отношений. Два последних из рассмотренных нами фильма позволяют надеяться на оптимистический сценарий дальнейшего развития нарратива «ИИ в школе».
Чеха В.В.
Эксперт Обрсоюза
Как правило, первые фильмы о роботах основывались на художественной пересборке сюжета фантастической пьесы Карела Чапека «R.U.R.» («Россумские универсальные роботы»). Так, в частности, советский фантастический фильм «Гибель сенсации» («Робот Джима Рипль»), 1935 года, обыгрывает образы и знаки, маркирующие роботов как средство замены рабочих и орудие их порабощения в интересах капиталистов. Характерно, что сценарий фильма включает и образовательную тему — трагически обыгранные сомнения выпускников Политехнического техникума в возможности найти работу в условиях планов капиталистов ликвидировать пролетариат за счет внедрения «универсальных машин, выполняющих функции разумного существа, имеющего форму человеческого тела». Именно так, по сюжету, именуются роботы с ИИ. Естественно, что фильм заканчивается успешным восстанием пролетариата с массовым переходом роботов на «правильную» сторону.
В рамках значительного количества художественных фильмов, обыгрывающих истории с роботами с ИИ, возможно выделить достаточно большое количество фильмов, посвященных ИИ в школе. Рассмотрим некоторые из них.
Среди наиболее известных фильмов такого рода возможно выделить «Приключения Электроника», 1979 года, режиссера Константина Бромберга. Его содержание известно большинству людей, проживающих в государствах бывшего СССР.
Основная сюжетная линия фильма связана с неудачной попыткой школьника Сергея Сыроежкина использовать случайно найденного дубля — робота Электроника с ИИ — для подмены себя во время учёбы в школе. Данный робот с искусственным интеллектом вступает в образовательные отношения под видом Сыроежкина, не проявляя при этом каких-либо эмоций. При этом Электроник показывает выдающиеся, потрясающие всю школу способности и в обучении, и в спорте.
Сыроежкин таким образом приобретает возможность не ходить в школу и жить, не напрягаясь, в своё удовольствие. Однако по ходу фильма у Электроника постоянно возникают проблемы, связанные с тем, что он, по сути, проживает чужую жизнь. Такая перспектива не устраивает ни Электроника, ни, в конечном итоге, Сыроежкина.
Главный лейтмотив, предопределяющий действия и робота, и реального ученика в школе, выражен словами «стать человеком». Присвоение такого стремления у ИИ отчасти восходит к гуманистической традиции советской педагогики, заложенной, в том числе, В. А. Сухомлинским.
Обратим внимание на то, что робот показан как очевидно не подходящий для того, чтобы выступать учеником в образовательных отношениях, но, тем не менее, не опасный и даже очень привлекательный для учеников и педагогов субъект взаимодействия. Фильм даёт надежду на то, что ИИ может потенциально «гуманизироваться» и стать человеком в полном смысле этого слова, по крайней мере, в условиях школы.
Другой, менее известный фильм второй половины ХХ века — «Волшебник», 1969 года (Венгрия, режиссёр — Дьёрдь Палашти). Главный герой фильма — ученик школы Дюси Балога — симпатичный лентяй и оболтус, имеющий, однако, друга — волшебника дядю Чиличало.
По просьбе Дюси волшебник создаёт его точную копию — робота, который призван обеспечить учебные успехи мальчика. Робот представляет собой классическую машину в человеческом обличье, в которую, тем не менее, возможно загружать, в прямом смысле, учебники и энциклопедии, содержание которых ИИ воспроизводит на уроках.
Выдающиеся учебные успехи, относящиеся к сфере высшей математики, потрясённому учителю робот-дублёр объясняет тем, что «в него заложена целая энциклопедия».
Однако данный фильм явственно и инструментально — в соответствии с европейской традицией рациональности — показывает основную проблему ИИ в школе, связанную с его структурообразующим свойством — алгоритмичностью. Алгоритм предопределяет действия робота без какого-либо учёта контекста, если такого рода учёт не заложен в него, или заложенный алгоритм понимает необходимость учёта контекста по-своему, не так, как от него ожидают.
Во время прихода на урок директора школы с целью посмотреть на неожиданно выдающиеся успехи ученика — бывшего лентяя, робот-дублёр начинает действовать неадекватно, так как «запрограммирован вмазать» другому ученику — такую команду в алгоритм робота заложил Дюси, чтобы наказать своего обидчика.
Таким образом, сюжет «робот в школе» в данном случае представлен как весёлая комедия с назиданием школьникам о том, что «надо учиться самому». Философские вопросы, касающиеся моральных и онтологических аспектов использования ИИ в школе, оставлены за скобками.
Более современный американский фантастический фильм «Класс» 1999 года (режиссер Марк Л. Лестер) затрагивает другую тему, связанную с использованием ИИ не вместо учеников, а в качестве замены учителей.
Американская школа «Кеннеди» в данном фильме представляет собой что-то среднее между бараком в лагере ГУЛАГа с господством «уркаганов», наркопритоном на частной квартире где-нибудь на окраине российского города в 90-х годах прошлого века и 13-м районом в одноименном художественном фильме 2004 года (продюсер Люк Бессон).
Для прекращения разгула преступности в школе Министерство образования, которое также называется «Министерством образовательной обороны», направило в школу роботов в виде трех учителей-предметников (учителя химии, истории и физической культуры) со встроенной программой преподавания и наведения какого-либо порядка.
Создатели называют роботов «суперучителями» – лучшими педагогами, которых можно отыскать, которые также оборудованы системой для случаев нарушения дисциплины.
Роботы достаточно быстро наводят дисциплину в школе, однако программа даёт сбой, во многом благодаря заложенной в ИИ возможности агрегировать и перерабатывать полученные в ходе взаимодействия с окружающей средой данные. Такого рода свойство ИИ приводит к тому, что в роботах пробуждается заложенная в них ранее, их предшествующая военная специализация, предполагающая использование ими гранатомётов, огнемётов и щипцов. В итоге, «суперучителя», при наведении порядка, оставляют за собой гору трупов в школе и рядом с ней, включая директора. Вышедший из-под контроля ИИ в конечном итоге убивает также своих создателей — учёных из корпорации МЕГАТЕК.
В роли спасителя вынужден был выступать ученик, недавно вышедший из тюрьмы, по имени Коуди, который в итоге становится положительным героем и побеждает ИИ за счёт своих высоких моральных качеств.
Сюжет данного фильма явственно показывает опасность выхода ИИ из-под контроля. Данный фильм содержит обращение к создателям программ ИИ о необходимости недопущения сбоев в автономной интерактивной машине, не поддающейся полному контролю со стороны человека, но предназначенной для участия в образовательных отношениях.
Этот фильм возвращает нас к тезису Айзека Азимова в романе «Академия и Земля» (1986 год) о том, что «робот не может навредить человечеству или своим бездействием допустить, чтобы ему был нанесён вред».
Рассмотрим ещё один фильм — «Мой друг робот», 2016 год, режиссёр Вольфганг Гроос (Германия — Бельгия). Робот с ИИ (Робби) — симпатичное существо, становится близким другом для Тобби — талантливого ученика младшей школы, который выступает в роли жертвы абьюза со стороны одноклассников.
Школьника не понимают дома: доминирующая в семье мама — автомеханик, и мягкотелый папа, в фартуке готовящий обеды, требуют от него найти друзей среди антипатичных ему одноклассников. Мама, как носитель мужских черт характера, насильно записывает Тобби на секцию хоккея.
Убывающая и ускользающая в современной Европе мужественность иногда проявляется в фильме в виде её задвинутых на обочины жизни маргинальных носителей — банды байкеров, которых робот называет «бородатыми дамами», и полусумасшедшего одноглазого смотрителя маяка — современной версии Билли Бонса.
В конце концов, робот с ИИ, выступающий носителем определённого рода моральной агентности, находит своё место в качестве друга Тобби. Включение в число участников сюжета родителей робота, а также саамской девочки-охотника, придаёт фильму необходимую степень законченности в части соответствия современным мультикультурным трендам. Именно эти тренды побеждают немного смешных, но отрицательных героев фильма, исповедующих принцип «в мире есть два типа людей: одни приказывают, другие исполняют».
Последний фильм в нашей статье — российский фильм «Роббо», 2019 года, режиссёр Сарик Андреасян. Данный фильм, как и предыдущий — «Мой друг робот», акцентуализирует моральный контекст деятельности ИИ в его взаимодействии с детьми. Данный моральный контекст предопределяет содержание взаимодействия робота с ИИ и мальчика Мити.
Сбой в программе робота заставляет его сбежать из лаборатории от инженеров, которые хотят утилизировать робота. При этом, в результате сбоя в программе, робот нацелен на «поиск семьи».
В результате робот становится настоящим другом ученика младших классов, который идёт на жертвы и прячет его от потенциальных утилизаторов. Эта дружба развивается на фоне разрастающегося непонимания между мальчиком и его родителями, желающими видеть в сыне будущего инженера «как мама и папа», вопреки его способностям к эмоциональной эмпатии, проявляющейся в интересе к рисованию.
На этом фоне симпатичный робот находит друзей также и среди одноклассников Мити. Отношения между детьми и роботом выстраиваются не по принципу иерархии «человек приказывает машине выполнять работу», а по принципу «горизонтального взаимодействия». Участники такого взаимодействия произносят ключевые для темы «ИИ в школе» фразы: «Робот — не машина; я ему не приказывал. Мы вместе с ним общаемся и решаем, что нужно делать», «друзья не приказывают», «робот не опасен».
В конечном итоге, робот, рискуя собой, спасает детей, проходя таким образом ритуальный обряд окончательного обретения ИИ моральной агентности.
Изложенное показывает, насколько многообразны и сложны вопросы, связанные с ИИ в школе. Безусловно, ИИ, конечно же, может дать сбой в ходе своего внедрения в образовательные отношения. Однако этот сбой вполне может оказаться положительным с точки зрения укрепления и развития этих отношений. Два последних из рассмотренных нами фильма позволяют надеяться на оптимистический сценарий дальнейшего развития нарратива «ИИ в школе».
Чеха В.В.
Эксперт Обрсоюза
