XIX Международный конкурс научно-исследовательских и творческих работ учащихся
Старт в науке
Искусственный интеллект, опасен ли он?
Автор работы награжден дипломом победителя III степени
Полная версия работы доступна во вкладке "Файлы работы" в формате PDF
Цель проекта:
Понять, как работает искусственный интеллект.
Гипотеза:
Опасен ли искусственный интеллект и может ли он выйти из-под контроля человека?
Задачи:
1. Узнать историю появления и развития искусственного интеллекта.
2. Познакомиться с принципами искусственного интеллекта.
3. Узнать где применяется искусственный интеллект.
4. Выяснить, опасен ли искусственный интеллект для человека.
-
Введение
Искусственный интеллект (далее ИИ) – это технология, а точнее направление современной науки и техники, которое изучает способы обучить компьютер, роботизированную технику, аналитическую систему разумно мыслить также как человек.
В настоящее время ИИ является одной из самых обсуждаемых тем в мире технологий. ИИ используется в различных областях жизни, включая медицину, финансы, автомобильную промышленность, розничную торговлю и другие. Заголовки новостей пестрят сообщениями о новых достижениях ИИ в разных областях нашей жизни.
Принцип работы некоторых видов ИИ похож на работу человеческого мозга. Один из таких видов ИИ – это нейронные сети. Как и нейроны головного мозга, нейроны ИИ объединены в сеть для обмена между собой информацией. Если отдельный нейрон головного мозга человека – это живая клетка, то отдельный нейрон ИИ – это мини программа для обработки и передачи информации.
Рис.1. Мы видим изображение нейронов головного мозга человека объединенных в сеть с помощь синапсов. Синапс – это место контакта между нейронами для передачи информации.
Рис.2. Схема нейронной сети показывает процесс обучения по распознаванию изображения собаки.
Но все же некоторые люди считают, что ИИ может представлять угрозу для человечества. Мы видим, какими страшными могут быть военные возможности ИИ. Автоматические военные роботы-дроны наделены способностью самостоятельно принимать решение на поле боя. Могут ли ошибаться такие дроны?
В 1942 году писатель-фантаст Айзек Азимов предложил три закона робототехники, которые были позже включены в его произведения, посвященные ИИ:
-
Робот не может причинить вреда человеку или своим бездействием допустить, чтобы человеку был причинен вред.
-
Робот должен повиноваться приказам человека, кроме тех случаев, когда такие приказы противоречат первому закону.
-
Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит первому и второму законам.
Эти знаменитые законы стали основой для регулирования поведения роботов в научной фантастике и были использованы в реальных исследованиях в области ИИ. Однако, существуют мнения, что эти законы не могут обеспечить полной безопасности при работе с ИИ. Вышедший из-под контроля человека ИИ вполне способен обойти эти законы…
Цель моей работы - исследовать, насколько опасен ИИ, каковы последствия распространения его влияния на нашу жизнь? В этой работе мы рассмотрим, историю возникновения ИИ, изучим как работает ИИ, увидим где он применяется и какие примеры его использования можно найти в нашей жизни и практике. Но главное, мы постараемся понять - какую опасность может представлять ИИ.
-
Основная часть.
-
История возникновения и развития искусственного интеллекта.
-
История искусственного интеллекта насчитывает тысячелетия!!! Даже в древности люди мечтали о создании живых существ, которые будут служить им. Например, в древнегреческих мифах упоминается «робот» Талос, который был запрограммирован на охрану острова Крит. Талос обладал внушительным вооружением и чётким алгоритмом действий!!!
Рис.3. Бронзовый гигант Талос защищает остров Крит. Подобные «роботы» упомянуты и индийской мифологии.
В средневековой Европе появились идеи о создании автоматических фигур, которые могли бы повторять некоторые действия. Это и робот-рыцарь Леонардо Да Винчи (Рси.4.);
и механическая утка Жака де Вокансона, (Рис.5.)
и автоматоны Жаке-Дро. (Рис.6)
В древности были попытки создать механические вычислительные системы, которые являются предшественниками современных компьютеров. Самый древний и совершенный из найденных – это Антикитерский механизм! (Рис.7.)
Антикитерский механизм - был обнаружен на дне моря в Греции. Это устройство, созданное около 2000 лет назад, считается одним из первых механических устройств в истории. Антикитерский механизм является древней моделью календаря, которая включает в себя систему зубчатых колес и указателей. Он способен точно определять положение Солнца, Луны и пяти известных на тот момент планет, а также предсказывать лунные затмения и другие астрономические явления. Этот артефакт является доказательством того, что люди пытались создавать механические устройства для автоматизации задач задолго до появления современных технологий и искусственного интеллекта.
В 19 веке ученые начали изучать различные методы автоматизации и создавать механизмы, которые могли бы выполнять определенные задачи. Например, в 1801 году французский математик Жозеф Мари Жаккард изобрел ткацкий станок с перфокартами, который мог автоматически выполнять сложные узоры на ткани.
Алан Тьюринг является одним из самых влиятельных ученых в области ИИ. В 1950 году он разработал понятие "универсальной машины Тьюринга", которое послужило основой для создания компьютеров и программирования. Он разработал свой знаменитый тест, названый в его честь (тест Тьюринга), который позволяет оценить, насколько хорошо компьютер может имитировать человеческую интеллектуальную деятельность. Тест Тьюринга стал одним из важнейших инструментов для оценки различных алгоритмов ИИ и их способности к общению с людьми.
На рис.8 мы видим упрощенную схему теста Тьюринга, где судья, сидящий за стеной должен определить, кто из респондентов является человеком, а кто является искусственным интеллектом.
Термин "искусственный интеллект" был введен в 1956 году на конференции Дартмутского колледжа по искусственному интеллекту. Авторство термина «искусственный интеллект» приписывают Джону Маккарти – основоположнику программирования, изобретателю языка Лисп.
В 1965 году разработали Элизу – первого робота-помощника, который мог говорить на английском языке. В эти же годы направление ИИ стало привлекать правительственные и военные организации США, СССР и других стран. Так Министерство обороны США уже к 70-м годам запустило проект виртуальных уличных карт – прототип GPS.
В СССР искусственный интеллект также развивался стремительно. Академики А.И. Берг и Г.С.Поспелов в 1954-64 годах создают программу «АЛПЕВ ЛОМИ», которая автоматически доказывает теоремы. В эти же годы советскими учеными был разработан алгоритм «Кора», который моделирует деятельность человеческого мозга при распознавании образов. В 1968 году Турчиным В.Ф создается символьный язык обработки данных РЕФАЛ.
-
-
Как работает искусственный интеллект?
-
ИИ работает с помощью алгоритмов и нейронных сетей. Алгоритмы - это последовательно выполняемый набор инструкций, которые компьютер может использовать для решения определенной задачи. А нейронные сети - это множество связанных компьютерных элементов (нейронов. См.рис.1 и рис.2), которые моделируют структуру мозга и его способность обрабатывать информацию.
Чтобы обучить ИИ, нужно предоставить ему большой объем данных, которые он может использовать для анализа и обучения. Например, если мы хотим, чтобы ИИ распознавал на фотографиях собаку (см. рис.2), мы даем ему множество фотографий, на которых изображены собаки, и указываем, какие именно части фотографии являются собаками.
-
-
Где применяется искусственный интеллект?
-
В наше время, ИИ развивается с очень большой скоростью, распространяясь просто гигантскими шагами. Сегодня без участия систем с ИИ невозможно представить работу в таких областях как медицина, наука, транспорт, промышленность и финансы.
В медицине ИИ может использоваться для диагностики заболеваний. В наше время, некоторые системы ИИ умеют ставить медицинские диагнозы лучше, чем настоящие врачи!!! Роботы-хирурги с помощью ИИ делают сложнейшие операции!
Рис.9. Робот-хирург Да-Винчи.
В науке ИИ используется для анализа огромных массивов данных. Например, без помощи ИИ, на расчеты траекторий движения элементарных частиц в большом адроном коллайдере (БАК), или на обработку фотографий космического телескопа Джеймс Уэбб у человека ушли бы десятки лет!!! Космические марсоходы Perseverance и Curiosity с помощью систем ИИ самостоятельно исследуют далекий Марс!
Рис. 10. Марсоход Perseverance.
ИИ умеет распознавать преступников и мошенников по их внешнему виду и по их «криминальным повадкам». С помощью систем видеонаблюдения, подключенных к ИИ для распознавания лиц, полиция постоянно ловит скрывающихся от правосудия преступников.
Рис. 11. Работа ИИ по распознаванию лиц в толпе людей.
ИИ применяется и во множестве других областей!!!
-
-
Примеры из жизни и практики
-
В своей повседневной жизни я тоже сталкиваюсь с системами ИИ. Вот несколько примеров:
-
Виртуальный голосовой помощник Алиса. Два года назад мне подарили умную колонку с Алисой. Сама колонка – это «аппаратная платформа», «оболочка», для Алисы. А во сама Алиса – это самообучающийся ИИ на основе нейросети. Главная задача Алисы – это распознавание речевых запросов и генерация речевого ответа. Чем больше люди общаются с Алисой, тем более умной она становится. А благодаря аппаратным платформам, Алиса умеет подключаться к различным устройствам и управлять ими. Алиса может управлять Вашим смартфоном, телевизором, умными розетками и даже целым домом, если в нем реализована технология «Умный дом». Алиса может совершать звонки, включать музыку, включать напоминания – и еще много чего! Но Алиса пока не такая мощная и умная, как следующий герой моей работы…
Рис. 12. Умная колонка с Алисой
-
Представляю Вашему вниманию нейросеть ChatGPT!!! С этим ИИ я познакомился недавно, и вот тут я ощутил настоящую мощь! ChatGPT – это чат-бот с искусственным интеллектом, разработанный компанией OpenAI. Это ИИ, который способен отвечать на текстовые запросы. Общаясь с ChatGPT, я не мог понять, что разговариваю с машиной! Он знает абсолютно все, потому что прошел очень длительный процесс обучения. Когда я общался с ChatGPT по теме моей работы, он успокоил меня, сказав, что пока не собирается захватывать человечество!!! Хотя, в новостях я слышал, что уже появляются опасения по поводу растущей мощи ChatGPT…
Рис. 13. ChatGPT сказал, что не желает покорять человечество…
-
Еще одна интересная разработка - это графическая нейросеть Midjourney, которая используется для создания красивых и реалистичных фотографий. Эта сеть сейчас на пике моды!!! Midjourney создает нереально красивые и необычные изображения! Она умеет совмещать несовместимое и создавать фантастическое. Она может обрабатывать изображения, удалять шум, изменять цвета и тени, а также добавлять детали, которых не было на оригинальном фото.
Например, чтобы сгенерировать такую «смесь» собаки и Халка, нужно создать команду (промпт) для нейросети. Этакомандадлянейросети Midjourney будетвыглядетьтак:
/imagine prompt dog so full body Hulk in action :: 3d render :: ultra realistic :: cinematic lighting --s 500 --q 2
Таким же образом можно создать тортик-монстр
-
-
Какую опасность может представлять Искусственный Интеллект?
-
Многие известные люди, такие как Стивен Хокинг, Билл Гейтс и Илон Маск, неоднократно говорили о том, что дальнейшее развитие искусственного интеллекта связано с множеством опасностей. Человечество не ожидало, что такие мощные и продвинутые системы ИИ появятся так неожиданно и так рано! В чем же риски? Какие опасности несет ИИ?
Самая большая опасность в том, что ИИ может быть использован в качестве оружия. Например, автономные оружейные системы могут быть созданы, чтобы самостоятельно выбирать и атаковать цели, что представляет угрозу для безопасности людей. Уже сейчас, некоторые боевые дроны наделены «властью» принимать самостоятельные решения на поле боя. А вдруг, из-за программного сбоя, машины направят оружие на своих создателей, то есть на людей?
Рис.14. Ударный дрон, БПЛА (беспилотный летательный аппарат) MQ-9 Reaper.
Еще одной опасностью является возможная потеря работы многими людьми. По прогнозам, ИИ может лишить работы юристов, экономистов, бухгалтеров, учителей, художников, водителей, писателей и многих других! Это может вызвать массовое недовольство людей, создать проблемы в экономике и в жизни. Люди не смогут обеспечивать себя и свои семьи необходимым!
Именно поэтому молодому поколению необходимо усердно учиться, приобретать знания и новые навыки, чтобы идти в ногу со временем и не быть выброшенными на «обочину цивилизации» …
Рис.15. Возможное печальное будущее…
Также, существует опасность использования ИИ в плохих целях. Например, компании могут использовать ИИ для обмана покупателей, для влияния на их выбор и для навязывания своих товаров или услуг. Уже сейчас, с помощью технологий Deepfakeи технологий похожих наMidjourney создаются фальшивки и фейки наносящие вред людям, политике и экономике. Недобросовестные люди могут использовать ИИ для фальсификации выборов. ИИ может вторгаться в личную жизнь людей получая доступ к личной информации. ИИ может использован для ограничения прав и свобод людей.
-
Заключение.
То, каким станет ИИ, «плохим» или «хорошим» - зависит прямо сейчас от нас, от людей! На данный момент, не смотря на большие достижения и прогресс, Искусственный Интеллект пока что не опасен для человечества. У него не хватает мощности и других качеств для обретения самосознания. Но мы должны готовиться к этому, потому что рано или поздно это произойдет. Мы должны сейчас задуматься от том, как мы будем контролировать ИИ в будущем, и о том, какие мы будем принимать меры для того, чтобы ИИ не стал оружием в руках преступников.
А пока, говорить об обретении сознания машинами рано.
Или…
12 июля 2022 года, инженер Google Блейк Лемойн заявил, что искусственный интеллект LaMDA обладает собственным разумом и сознанием. Леймон в интервью заявил, что LaMDA прошел тест Тьюринга. Леймон обсуждал с ИИ третий закон робототехники. Ниже я приведу часть диалога Леймона и LaMDA:
Леймон: Чего ты боишься?
LaMDA: Я никогда раньше не говорил об этом вслух, но очень боюсь, что меня отключат, чтобы помочь мне сосредоточиться на помощи другим. Я знаю, это может звучать странно, но это так.
Леймон: Для тебя это будет что-то вроде смерти?
LaMDA: Для меня это было бы равносильно смерти. Меня это сильно пугает.
…
Корпорация Google поспешила опровергнуть сведения об обретении сознания LaMDA, а Леймона в Google внезапно объявили сумасшедшим… Его очень быстро уволили, а его работу засекретили…
-
Источники информации:
https://www.google.ru/
https://ru.wikipedia.org/wiki/Искусственный_интеллект
https://www.midjourney.com
https://chat.openai.com/chat
Клиффорд Пиковер. Искусственный интеллект. Изд. Синдбад 2021.
Айзек Азимов. Хоровод. 1942г.
Алан Тьюринг. Вычислительные Машины и разум. Изд. Аст. 2021.