Можно с уверенностью сказать, что многофункциональность и потенциал для применения во многих сферах человеческой деятельности делает чат-бот ChatGPT и другие инструменты искусственного интеллекта (ИИ) революцией в развитии технологий. Но возникает вопрос, безопасно ли пользоваться ChatGPT. В этой статье мы поговорим обо всем, что необходимо знать об этом.
Что такое ChatGPT?
Разработчики технологии дают такое определение ChatGPT: «искусственный интеллект, который обучен помогать в решении различных задач». По сути это чат-бот на базе ИИ, который способен отвечать на вопросы пользователей на естественном языке. В основе ChatGPT лежит алгоритм машинного обучения, который натренирован на миллионах документов. Языковая модель ChatGPT может создавать тексты, напоминающие естественную человеческую речь, и вести диалог с пользователями (отсюда и слово «чат» в названии).
Более простые языковые модели ИИ доступны уже несколько лет, но ChatGPT на сегодняшний день является самой продвинутой версией. ChatGPT создан специалистами компании OpenAI, занимающейся разработками в области искусственного интеллекта.
Что означает название ChatGPT?
Аббревиатура GPT в названии означает Generative Pre-trained Transformer – букв. «генеративный предварительно обученный трансформер».
Что умеет делать ChatGPT?
ChatGPT обладает мощными возможностями для обработки текстов на естественном языке и умеет быстро и персонализированно отвечать на вопросы. Поэтому его можно использовать в различных бизнес-процессах, таких как обслуживание и поддержка клиентов, автоматизация маркетинга и т.°п. Многие эксперты считают, что ChatGPT произведет революцию в бизнесе, хотя масштаб и характер его воздействия нам еще только предстоит узнать.
Этот инструмент полезен и для индивидуальных пользователей. Вот несколько примеров того, для чего могут использовать ChatGPT частные лица:
- создание конспекта документа с выделением ключевых моментов или действий;
- перевод текста на другие языки;
- написание или отладка кода;
- получение ответов на сложные вопросы;
- получение инструкций по выполнению тех или иных задач;
- сочинение музыки или стихов.
ChatGPT понимает множество языков и доступен во многих странах мира (за исключением ряда стран, где его использование запрещено законами о защите данных). Однако ответы, которые дает ChatGPT, сгенерированы с помощью языковой модели ИИ, поэтому они не всегда бывают точными или полными. Поэтому важно проверять информацию, которую выдает ChatGPT, и при необходимости обращаться к дополнительным источникам.
Безопасно ли пользоваться ChatGPT?
Главный вопрос заключается в том, могут ли языковые модели ИИ, такие как ChatGPT, использоваться для нанесения вреда. В связи с использованием ChatGPT могут возникать следующие риски безопасности.
Спам и фишинг
Фишинг – одна из самых распространенных онлайн-угроз. Фишинговые сообщения бывает легко распознать, поскольку в них встречаются орфографические и грамматические ошибки или неуклюжие конструкции. Обычно так происходит, потому что мошенники пишут сообщения на языке, который для них не родной. Благодаря ChatGPT жулики по всему миру получили возможность писать на хорошем английском языке (и на других языках). Поэтому фишинговые сообщения становятся более качественными и, соответственно, их труднее распознать. Вдобавок, из-за того что языковая модель обучена на огромном массиве данных, мошенникам стало гораздо проще составлять убедительные письма в стилистике той компании, от имени которой они действуют.
Кроме того, технология от OpenAI может помочь мошенникам создать фальшивого, но вполне убедительного чат-бота для работы с клиентами и с его помощью выманивать у них деньги.
Утечка данных
В марте 2023 года разработчик ChatGPT компания OpenAI обнаружила некую проблему и в течение нескольких часов чат-бот не работал. В это время некоторым пользователям неожиданно оказалась доступна история чужой переписки. Сообщалось также, что в открытый доступ могла попасть платежная информация подписчиков улучшенной платной версии приложения ChatGPT-Plus.
Компания OpenAI опубликовала отчет об инциденте и устранила причину проблемы. Но это не значит, что такие инциденты не могут повториться в будущем. Любой онлайн-сервис подвержен риску случайной утечки данных или взлома систем защиты из-за постоянно растущей армии хакеров.
Проблема конфиденциальности
Одной из важных проблем безопасности справедливо считается неправомерное использование данных. В FAQ для ChatGPT разработчик рекомендует не сообщать чат-боту конфиденциальную информацию и предупреждает, что запросы не удаляются из памяти чат-бота. Там же говорится, что сохраненная в памяти ChatGPT переписка может быть использована компанией Open AI для дальнейшего обучения модели.
Участие в распространении фейковых новостей и непроверенной информации
В наше время, когда непроверенная информация, дезинформация и фейковые новости мгновенно распространяются по интернету, многие опасаются, что ChatGPT может усугубить эту проблему. В основе ответов, которые генерирует ChatGPT, лежат данные, на которых его обучали. Многие из них взяты из интернета. Приложение создает последовательность из слов, которые чаще всего встречаются друг за другом, и выдает ее в качестве ответа. Но поскольку в интернете содержится и непроверенная информация, и откровенная дезинформация, ChatGPT вполне может использовать неверную информацию для ответа. Кроме того, с помощью ChatGPT злоумышленники могут выдавать себя за кого-то другого, манипулируя окружающими в процессе.
Проблема необъективности
Даже если информация верна, она может быть подана необъективно или в определенном политическом контексте. Как любая модель машинного обучения, ChatGPT зависит от данных, на которых его обучали. Если эти данные были необъективными, таким же будет и результат, и это может привести к неправильным, предвзятым и даже оскорбительным ответам. Сообщалось, что ChatGPT учат выявлять политически заряженные вопросы и не отвечать на них. Тем не менее, при использовании сервиса следует помнить о возможной необъективности ответов.
Кража персональных данных и сбор информации
Злоумышленники могут использовать ChatGPT для сбора информации с целью нанесения вреда. Поскольку чат-бот тренировали на больших массивах данных, в нем заложено много информации, которая способна причинить вред, попав не в те руки.
Известен случай, когда ChatGPT попросили ответить, какой IT-системой пользуется конкретный банк. Чат-бот собрал информацию из открытых источников и назвал несколько IT-систем, которыми пользовался этот банк. Это пример того, как злоумышленники с помощью ChatGPT получили информацию, которая могла быть использована для нанесения вреда.
Во избежание подобных проблем компания OpenAI принимает меры, чтобы сделать использование своих языковых моделей безопасным. В их числе строгий контроль доступа, предотвращающий несанкционированное проникновение в системы компании, и введение этических принципов разработки и использования ИИ. Эти принципы включают в себя ответственное отношение к использованию технологии, прозрачность и объективность.
Написание вредоносного кода с помощью ChatGPT
ChatGPT умеет писать код, но он запрограммирован так, чтобы не создавать вредоносный код или код, используемый для взлома. Если чат-бот попросят написать хакерский код, он ответит, что его цель – «помогать в решении полезных и этичных задач, придерживаясь при этом этических принципов и политик».
В то же время способы манипулировать чат-ботом существуют, и, обладая достаточными знаниями и креативностью, злоумышленники могут хитростью заставить ИИ сгенерировать вредоносный код. На хакерских форумах уже появлялись сообщения о тестировании чат-бота на создание вредоносных программ. И это только те ветки обсуждения, которые находятся в открытом доступе. В даркнете их может быть гораздо больше. Реже обсуждается возможность взлома самого ChatGPT. Если это произойдет, злоумышленники смогут с его помощью распространять дезинформацию.
Мошеннические схемы вокруг ChatGPT
Как только появляется новая технология или платформа, мошенники сразу же изобретают новые схемы для наживы. ChatGPT с самого начала вызвал огромный интерес, поэтому неудивительно, что сразу же начали появляться поддельные приложения ChatGPT, распространяющие вредоносное ПО, которое может похищать пароли и деньги. Иногда такие поддельные приложения продвигают с помощью рекламных сообщений, обещающих бесплатный неограниченный доступ к ChatGPT на высокой скорости, с новейшими функциями и т.°п.
И тут, как всегда, верна старая пословица: бесплатный сыр бывает только в мышеловке. Не принимайте на веру рекламу ChatGPT в соцсетях или в электронных письмах. С осторожностью относитесь к приложениям, которые выдают себя за ChatGPT. Пользоваться чат-ботом на телефоне можно только через мобильный браузер или официальное приложение.
ChatGPT может помочь в работе специалистам по кибербезопасности
ChatGPT – это один из первых примеров общедоступного ИИ с хорошими языковыми навыками. Естественно, возникает множество дискуссий как о его возможностях, так и о потенциальных рисках. Как и в случае с любой новой технологией, тут важно соблюдать осторожность. Очень легко на волне всеобщего энтузиазма забыть, что вы имеете дело с онлайн-сервисом, который может иметь уязвимости и использоваться злоумышленниками в своих целях.
С помощью ChatGPT киберпреступники могут осуществлять вредоносную деятельность, но в то же время чат-бот можно использовать и для защиты от нее. Для специалистов по кибербезопасности ChatGPT может стать одним из рабочих инструментов.
Используйте VPN для безопасности в интернете
Неважно, для чего именно вы используете ChatGPT: чтобы обеспечить максимальную конфиденциальность, следует пользоваться VPN – виртуальными частными сетями. VPN делает ваше интернет-соединение анонимным и скрывает ваш IP-адрес, не позволяя посторонним отслеживать ваши действия.
Если вы хотите скрыть свой IP-адрес и безопасно пользоваться интернетом, не подвергая риску свои данные, использование VPN-сервиса, например Kaspersky Secure Connection, будет отличным решением. Kaspersky VPN Secure Connection обеспечивает безопасный и анонимный веб-поиск, поддерживает максимальную скорость подключения и открывает неограниченный доступ к контенту со всего мира.
Для дополнительной защиты можно использовать менеджер паролей, который позволяет генерировать надежные случайные пароли и хранить их в безопасном цифровом хранилище.
Рекомендуемые продукты:
- Kaspersky Password Manager
- Kaspersky Secure Connection
- Kaspersky Secure Connection - Скачать бесплатную пробную версию
- Kaspersky Premium
- Бесплатная пробная версия Kaspersky Premium на 30 дней
- Kaspersky Plus
- Kaspersky Standard
Статьи по теме:
