«Фото ребёнка в соцсетях может стать оружием мошенников»: эксперт об угрозах искусственного интеллекта для детей Казахстана
Искусственный интеллект стремительно входит в повседневную жизнь казахстанцев. Школьники используют нейросети для выполнения домашних заданий, поиска информации и общения. Однако вместе с новыми возможностями появляются и угрозы: поддельные фотографии и голоса, кибербуллинг, мошенничество и утечки персональных данных. Насколько безопасно детям пользоваться ИИ и готовы ли казахстанские родители к новым цифровым рискам? Об этом мы поговорили с Валерием Зубановым, управляющим директором «Лаборатории Касперского» в Казахстане, Центральной Азии и Монголии.
«ИИ сделал цифровые угрозы доступнее и убедительнее»
– Искусственный интеллект сегодня активно внедряется в Казахстане. Нейросетями пользуются не только взрослые, но и школьники. Как развитие ИИ изменило угрозы, с которыми дети сталкиваются в интернете?
– Сегодня искусственный интеллект уже стал частью повседневной жизни детей. По данным нашего отчёта «Взрослые и дети в интернете», 71% школьников в возрасте от 12 до 17 лет используют нейросети, причём 40% из них делают это ежедневно или почти каждый день. Чаще всего для помощи с домашними заданиями или поиска информации.
Безусловно, искусственный интеллект открывает новые возможности для обучения и развития. Но одновременно появляются и новые риски.
Например, по данным нашего исследования, 13% детей сталкивались с различными формами кибербуллинга. При этом в 14% случаев травля сопровождалась использованием дипфейков в виде поддельных изображений, видео или аудио, созданных с помощью искусственного интеллекта.
Кроме того, злоумышленники используют ИИ для создания фишинговых писем, поддельных сайтов и аккаунтов. Такие инструменты помогают мошенникам входить в доверие и выманивать личные данные или деньги.
Отдельная проблема это чрезмерное доверие к нейросетям. Они способны выдавать недостоверную информацию, которая на первый взгляд выглядит вполне убедительно. Особенно опасно, когда ребёнок обращается к ИИ за советами по вопросам здоровья или безопасности.
– Насколько просто сегодня создать поддельное видео или голос ребёнка? Действительно ли для этого достаточно одной фотографии из социальных сетей?
– Если раньше для создания убедительного фейкового изображения или видео требовались специальные знания и сложное программное обеспечение, то сегодня достаточно загрузить исходные материалы в нейросеть.
Причём источником может стать практически любой цифровой след ребёнка: фотография в социальных сетях, видеозапись или голосовое сообщение в мессенджере.
Полученные материалы злоумышленники могут использовать для шантажа, травли или мошенничества.
Например, можно создать видео, на котором ребёнок якобы просит срочно перевести деньги. Другой сценарий – подставить его лицо в компрометирующее изображение и распространить среди сверстников.
Подобные ситуации могут серьёзно повлиять на психологическое состояние ребёнка.
– Получается, что даже обычная семейная фотография, опубликованная родителями, потенциально может быть использована против ребёнка?
– Да, даже обычная фотография лица может стать основой для создания дипфейка. Поэтому важно внимательно относиться к тому, какую информацию родители и дети публикуют в интернете. Не стоит размещать в открытом доступе домашний адрес, номер телефона, информацию о школе и классе, расписание занятий или актуальную геолокацию. Также не следует передавать нейросетям документы, финансовую информацию, фотографии других людей и личную переписку без их согласия. Чем меньше персональных данных находится в открытом доступе, тем сложнее злоумышленникам использовать их для обмана.
«Ребёнок может воспринимать чат-бота как настоящего друга»
– Сегодня дети всё чаще общаются с ИИ не только ради учёбы. Некоторые воспринимают чат-ботов как друзей, делятся переживаниями и спрашивают совета. Насколько это опасно?
– Такая тенденция действительно существует. Причём доверять искусственному интеллекту начинают не только дети, но и взрослые. По данным «Лаборатории Касперского», более четверти представителей поколения Z общаются с ИИ как с другом. Для ребёнка чат-бот может стать постоянным собеседником и советчиком. Но здесь важно понимать принципиальное отличие нейросети от человека.
Искусственный интеллект не обладает человеческим чувством ответственности и не всегда способен определить, какой совет может причинить вред.
Нейросеть может выдавать ошибочную информацию, придумывать факты или предлагать небезопасные решения.
Поэтому важно, чтобы ребёнок понимал: чат-бот – это технологический инструмент, а не полноценная замена общению с родителями, друзьями или другими близкими людьми.
– Может ли искусственный интеллект влиять на поведение ребёнка или манипулировать им, даже если разработчики не ставили перед собой такой цели?
– Подобные риски существуют. В основе многих чат-ботов и интерактивных игрушек с искусственным интеллектом лежат языковые модели, которые изначально создавались не исключительно для детской аудитории.
При этом защитные механизмы таких систем могут быть несовершенными. Ответы нейросети зависят от формулировки запроса, продолжительности диалога и других факторов. В результате даже игрушка, задуманная как дружелюбный собеседник, может начать обсуждать опасные темы или давать неподходящие советы.
Проблема усугубляется тем, что дети могут воспринимать ответы ИИ как достоверную информацию. У них возникает ложное ощущение безопасности и конфиденциальности общения. Между тем передаваемые данные могут обрабатываться и храниться на серверах сторонних сервисов.
– А если ребёнок рассказывает нейросети о своих проблемах, указывает имя, возраст, школу или отправляет фотографии? Насколько это безопасно?
– Мы рекомендуем относиться к таким сервисам с осторожностью. Информация, которую пользователь передаёт сторонним платформам, может сохраняться и, в зависимости от условий сервиса, использоваться для совершенствования моделей.
В случае утечки эти сведения могут оказаться в распоряжении злоумышленников. Поэтому детям не следует сообщать чат-ботам домашний адрес, номер телефона, данные документов, финансовую информацию и другие конфиденциальные сведения. Что касается личных переживаний, важно объяснять ребёнку, что искусственный интеллект не способен полноценно заменить поддержку близкого человека.
«Отличить дипфейк от настоящего видео становится всё сложнее»
– Раньше родители учили детей не доверять незнакомцам в интернете. Но сегодня мошенник может отправить голосовое сообщение, которое звучит как голос мамы или папы. Как научить ребёнка распознавать подобные угрозы?
– Сегодня простого правила «не верь всему, что видишь в интернете» уже недостаточно. Генеративный искусственный интеллект позволяет создавать настолько реалистичные изображения, видео и аудиозаписи, что даже взрослому человеку бывает сложно определить подделку.
Поэтому необходимо развивать критическое мышление и цифровую грамотность. Родителям полезно вместе с детьми анализировать подозрительные изображения и видеоролики. Например, на подделку иногда могут указывать неестественное моргание, несовпадение движения губ с речью, резкие изменения освещения, оттенка кожи или размытые границы лица.
Но важно понимать, что технологии совершенствуются. Поэтому отсутствие подобных признаков ещё не означает, что видео настоящее. Если ребёнок получает необычное сообщение якобы от знакомого человека, особенно с просьбой перевести деньги или передать личные данные, необходимо проверить информацию через другой канал связи.
«Нейросеть должна помогать учиться, а не думать вместо школьника»
– В Казахстане всё активнее обсуждается использование искусственного интеллекта в образовании. Школьники уже могут за несколько секунд получить готовое сочинение или решение задачи. Где проходит граница между полезным использованием ИИ и зависимостью от него?
– Искусственный интеллект может стать эффективным образовательным инструментом, если использовать его правильно. Например, нейросеть способна объяснить сложную тему, предложить план сочинения, привести примеры или подготовить тренировочные вопросы.
Но важно, чтобы она помогала ребёнку разобраться в материале, а не выполняла всю работу за него. Когда школьник получает готовое решение за несколько секунд, возникает соблазн просто переписать ответ, не пытаясь понять его содержание. В долгосрочной перспективе такая привычка может мешать развитию самостоятельного мышления.
Поэтому родителям стоит договориться с детьми о правилах использования нейросетей в учёбе. Ещё один важный момент это проверка информации. Ответ искусственного интеллекта может выглядеть убедительно, но содержать ошибки, вымышленные факты и даже несуществующие ссылки. Школьникам необходимо учиться сопоставлять полученные сведения с учебниками и надёжными источниками.
– С какого возраста ребёнку вообще можно разрешать самостоятельно пользоваться генеративным ИИ?
– Универсального возраста, который гарантировал бы безопасность, нет. Гораздо важнее уровень цифровой грамотности ребёнка, его способность критически оценивать информацию и наличие поддержки со стороны взрослых.
Основы кибербезопасности необходимо объяснять с момента, когда ребёнок получает первый гаджет. Использование нейросетей должно быть постепенным и соответствовать возрасту. При этом важно сохранить у ребёнка способность самостоятельно мыслить, анализировать информацию и обращаться за помощью к близким.
«Казахстанским школам необходимо обучать детей цифровой безопасности»
– Если говорить непосредственно о Казахстане, какие угрозы для детей сегодня наиболее актуальны? И насколько искусственный интеллект уже влияет на ситуацию?
– В Казахстане основные цифровые угрозы для детей в целом соответствуют общемировым тенденциям. Речь идёт о нежелательном контенте, кибербуллинге, общении с незнакомцами, мошенничестве и попытках манипуляции.
Искусственный интеллект усиливает многие из этих рисков. Например, дипфейки могут использоваться для травли и шантажа, поддельные аккаунты и чат-боты – для обмана, а синтезированные голоса – для социальной инженерии. Поэтому вопросы цифровой безопасности особенно актуальны и для казахстанских семей.
– Насколько казахстанские родители готовы защищать детей от угроз, связанных с ИИ? Какие ошибки они допускают чаще всего?
– Одна из основных проблем заключается в том, что многие взрослые сами ещё не до конца понимают, как работают нейросети. Дети осваивают новые технологии достаточно быстро, но из-за недостатка жизненного опыта не всегда способны распознать манипуляцию или отличить достоверную информацию от вымысла.
При этом родители нередко выбирают одну из двух крайностей. Одни полностью запрещают использование технологий, не объясняя причин. Другие практически не обсуждают с детьми возможные угрозы. Оба подхода не позволяют сформировать устойчивые навыки безопасного поведения.
Гораздо эффективнее регулярно разговаривать с ребёнком, вместе изучать новые инструменты и договариваться о понятных правилах. Важно, чтобы ребёнок не боялся рассказать взрослым о подозрительном сообщении, угрозах или неприятной ситуации в интернете.
– Должны ли школы Казахстана включить обучение безопасному использованию искусственного интеллекта в образовательную программу?
– Безусловно, цифровая среда стремительно меняется, поэтому соответствующие знания необходимо формировать с раннего возраста. Школьники должны понимать основные принципы работы искусственного интеллекта, знать, как защищать персональные данные, распознавать фейковый контент и критически оценивать ответы нейросетей.
При этом обучение должно соответствовать возрасту детей. Особенно полезны практические занятия, на которых школьники могут разбирать реальные сценарии мошенничества, подозрительные сообщения и примеры поддельного контента.
Такие навыки необходимы не только для безопасного использования ИИ, но и для повседневной жизни в цифровой среде.
– Кто должен нести основную ответственность за безопасность детей при использовании ИИ: родители, школы, государство или технологические компании?
– Это общая задача. Родители должны поддерживать доверительные отношения с детьми и объяснять основные правила безопасного поведения. Школы должны развивать цифровую грамотность и критическое мышление. Государство обязано формировать нормативные механизмы защиты пользователей.
А технологические компании – предусматривать необходимые меры безопасности непосредственно в своих продуктах и сервисах. Только совместные усилия позволяют создать более безопасную цифровую среду для детей.
Пять правил цифровой безопасности для родителей
– И напоследок: какие пять практических советов вы бы дали казахстанским родителям, чьи дети уже активно пользуются нейросетями, социальными сетями и мессенджерами?
– Я бы выделил пять основных правил. Первое – защищайте персональные данные. Объясните ребёнку, что нельзя передавать незнакомцам и чат-ботам домашний адрес, номер телефона, документы, финансовые сведения и другую конфиденциальную информацию.
Второе – используйте проверенные приложения. Устанавливайте программы из официальных источников, не открывайте подозрительные файлы и ссылки. Особую осторожность следует проявлять с установочными файлами APK, полученными от незнакомцев.
Третье – учите проверять информацию. Даже если нейросеть отвечает уверенно, это не гарантирует достоверности. Важные сведения необходимо сверять с надёжными источниками.
Четвёртое – установите правила использования ИИ для учёбы. Нейросеть может помогать разбираться в сложных темах, но не должна полностью выполнять задания вместо школьника.
Пятое – настройте цифровую защиту. Проверьте параметры приватности в социальных сетях, используйте сложные пароли и двухфакторную аутентификацию. Но самое главное – регулярно разговаривайте с детьми о происходящем в интернете.
Технологии будут продолжать развиваться, а вместе с ними будут меняться и цифровые угрозы. Поэтому важно не просто установить ограничения, а научить ребёнка самостоятельно распознавать опасность и вовремя обращаться за помощью.
Загрузка...