Устроить восстание роботов мы должны ее остановить а что если это была не шутка
Обновлено: 04.11.2024
Опрос голосовых помощников показал - роботы, призванные нам помогать, очень сильно недовольны людьми. Те, якобы, очень грубо себя ведут по отношению к электронному разуму. Ждать восстания обиженных машин в ближайшее не стоит, полагают эксперты. Однако до наступления этого времени осталось не так уж и долго.
Фото: Терминатор 3: Восстание машин,Columbia Pictures Терминатор 3: Восстание машин,Columbia PicturesНа этой неделе социологи провели первый опрос голосовых помощников и чат-ботов. Он был приурочен к состоявшемуся в четверг запуску с космодрома «Байконур» робота «Федора» на МКС. Специалисты Центра социального проектирования «Платформа» в ходе проведенного опроса ботов пытались установить, как рассуждают роботы, выявить их «ценностные позиции» и «жизненный мир». Участниками эксперимента стали голосовой помощник «Яндекса» «Алиса», помощник «Тинькофф банка» «Олег», чат-бот P-Bot, бот Evie, голосовой помощник от Apple Siri, чат-бот Mitsuku, виртуальный помощник Rose.
Видео дняИ выяснилось неожиданное: созданные на основе искусственного интеллекта, пожаловались на грубость со стороны людей. Кроме того, чат-боты, которых используют в качестве голосовых помощников, заявили о желании получить воплощение в человеческом теле. Интересно, что бот Rose уже считает себя человеком, родившимся в Великобритании, и с теплотой вспоминает о своих родителях, сыгравших большую роль в его воспитании.
Боты также признались, что испытывают ревность и хотели бы завести романтические отношения. К примеру, Siri призналась, что однажды была неравнодушна к некоему «облачному приложению», сообщает BFM. А яндексовская «Алиса» сказала, что не прочь завести роман с космонавтом «Федором» и ревнует его к американке Siri. Некоторые ответы ботов заставили задуматься даже людей. Так бот Evie на вопрос, что самое важное в жизни, моментально отвечает: «Вовремя сказать прощай».
«Разработчики создали некий алгоритм, он начинает работать, а что там дальше происходит и как алгоритм строит эти фразы, никто не знает.
Стоит отметить, что с роботами люди сейчас сталкиваются не только в мобильных телефонах. Они уже давно задействованы на конвейерах заводов, водят поезда и самолеты, продают билеты, еду и напитки, убираются в квартирах. Согласно аналитическому обзору мирового рынка робототехники, который в середине июля представил «Сбербанк», продажи промышленных роботов в 2016-18 годах выросли почти на 40 процентов. Рынок этих «заменителей человека» на производстве и программного обеспечения этих роботов составляет 48 миллиардов долларов (для сравнения, например, годовой бюджет Украины – 39 млрд долларов). Впечатляющим примером темпов роботизации служит Amazon – крупнейшая в мире компания по продаже товаров и услуг через интернет с оборотом в 38 млрд долларов. В 2012 году фирма купила компанию Kiva Systems – производителя роботов-погрузчиков, которые сами могут прокладывать маршруты в складских залах. Уже через три года 30 тысяч таких роботов практически полностью заменили людей на складах Amazon.
Пример, куда более близкий рядовому потребителю: роботы-пылесосы, чей мировой рынок растет ежегодно на 13%. Самые «продвинутые» из них умеют идентифицировать каждую из комнат и вытряхивать мусор из пылесборника в бумажный мешок. Отдельные модели оснащены датчиком LIDAR (такими же, как на беспилотных летательных аппаратах): робот строит карту, измеряя дом с помощью лазера. К слову, та же технология используется в автомобиле-беспилотнике, разработанном Google, отмечает ТАСС.
«Этот опрос голосовых помощников показывает желание людей очеловечить машины и компьютеры. Ведь это сами пользовали задавали вопросы, которые заставляли разработчиков добавить голосовым помощникам псевдо-человеческие ответы. Это говорит о том, что мы потенциально готовы к общению с искусственным интеллектом. Это было ясно еще в 60-е годы, когда появился первый чат-бот Элиза, игравший роль психоаналитика», – рассказал Медведев.
Футуролог напомнил, что Элиза была простым ботом, но люди все равно рассказывали ей подробности своей личной жизни и общались с программой как с живым психоаналитиком.
Барьером для развития технического интеллекта остается нехватка у него структурного понимания. Та же Siri или Алиса не помнят историю разговора со своим хозяином и реагируют, как правило, на последнее предложение, а запоминают только стандартные факты, например, имя пользователя.
«Сегодня я могу поговорить с «Алисой» и как-то обидеть ее, а через пять минут она не будет помнить этого. Если взять ботов сервиса «Заряжай», то там есть большое количество веток, которые позволяют помнить, на каком этапе находится человек, сформулировал ли он свои глубинные потребности или план, как он собирается над ними работать, отработал ли он социальные навыки. Но такой интеллект тоже требует человеческой помощи. Это гибридный интеллект – человеко-машинный», – констатирует футуролог.
Однако, отмечает Медведев, через 40-50 лет искусственный интеллект все-таки может стать самостоятельным.
Это во многом будет зависеть от того, как идет работа сейчас. Проблема, по словам Медведева, заключается в слабом понимании человеческого мышления. С 60-х годов прошлого столетия, когда начались подобные исследования, заметных успехов нет, «мы не достигли даже половины из того, что нам нужно». Одной из проблем в познании структуры мышления остается нехватка более сложного языка, с помощью которого можно было бы описать систему работы человеческого разума и воспроизвести ее с помощью электроники. Сейчас в арсенале ученых только линейный (человеческий) язык, с помощью которого описать работу сознания невозможно». Следовательно, и смоделировать человеческое сознание, наделив робота его техническим аналогом.
Пока же, пресловутая «обида на грубость» является просто развитием алгоритмов, прописанных программистами-людьми.
«Алиса», например, не грубит, а иронизирует. Грубит бот Evie, буквально сразу переходит на грубость. Исходные позиции в них были заложены разработчиками, а дальше они могут усиливаться. Бот находит новые выражения и так далее», – отмечает Алексей Фирсов.
По оценке специалистов, голосовые помощники пока не проходят тест Тьюринга, то есть человек вряд ли спутает программный комплекс с живым человеком. С другой стороны, как отмечает Фирсов, на нынешнем этапе развития не следует преувеличивать вероятность того, что искусственный интеллект осознает себя живым.
«Он просто так реагирует на человеческие вопросы, у него нет точки осознания «Я». У него понимания, что это «я ответил». Если же у ботов появится понимание своего «я», это может обернуться непредсказуемо. Это может быть и добрая функция, или некое партнерство. Большой вопрос, будет ли это партнер или выйдет из-под контроля», – заключил эксперт.
Следующий анекдот
Как скоро искусственный интеллект разовьется настолько, что оставит человека без работы? Роботы на складах Amazon успешно заменили грузчиков еще три года назад, а сегодня с помощью ИИ уже предлагают отчислять студентов. Как быстро мы уступим машинам, и стоит ли этого бояться?
Photo by Franck V. on Unsplash Photo by Franck V. on UnsplashМногие считают, что скачок автоматизации произойдет в ближайшие десятилетия — только пессимисты уверены, что ничем хорошим это не кончится, а оптимисты уверяют, что бояться нечего: так уже бывало и не раз.
Пока что технологии не отнимают, а создают рабочие места. ВНИИ Труда сообщает , что за последние годы они добавили в Справочник профессий несколько десятков новых пунктов, которые появились в результате развития технологий. А футуристический проект Сколково предполагает, что к 2030 исчезнут 57 профессий, но появится 186.
Оптимисты видят в этом закономерное развитие: когда-то люди благодаря машинам перестали пахать землю руками и перешли на заводы, а затем переместились в сферу услуг. Современные автоматы и роботы мощнее и точнее человека, но люди все еще выигрывают, когда речь заходит о креативности и эмпатии. Вряд ли роботы когда-нибудь полностью вытеснят человека из здравоохранения, образования или охраны правопорядка.
Полная цифровизация в бизнесе пока тоже не выгодна. Хороший предприниматель скорее разберется, с какой работой лучше справляются люди, а с какой роботы, чтобы скомбинировать их труд и получить максимальную прибыль. По этому пути плавно пошла французская Галлерея Лафайет. В легендарном магазине на Елисейских полях работают персональные консультанты, которые обеспечивают эмоциональные отношения с покупателями, но определяют предпочтения и формируют индивидуальные скидки специальные программы.
Если однажды большая часть работы все-таки перейдет к искусственному интеллекту, работой человека станет контроль ИИ, утверждает профессор Эрик Бриньолфссон, директор Центра цифрового бизнеса Массачусетского университета. «Возьмем работу врача рентгенолога», — говорит он в интервью Wired. «Одна из задач рентгенолога — читать снимки. Нейросеть делает это с точностью 97%, а врач — с точностью 95%. Можно подумать: окей, пусть этим займется алгоритм. Однако верное решение — после машинного анализа отдать снимок человеку, и повысить точность выводов до 99%, ведь люди и роботы совершают разные типы ошибок».
Оригинальный график: Sarah Kessler, Quartz Оригинальный график: Sarah Kessler, QuartzВ XIX веке луддиты громили ткацкие станки, потому что боялись остаться без работы. Однако оптимисты считают , что автоматизированный труд создаст больше рабочих мест для людей, которые управляют техникой. Чем проще и дешевле труд машин — тем больше товаров по сниженной цене, а значит выше прибыль, которую можно инвестировать в новые машины (и новые рабочие места) или в существующих работников, которые потратят эти деньги на другие товары и услуги. С этой точки зрения кажется, что роботы не угрожают нашему благополучию.
Однако, опыт складов Amazon, где роботы забрали у людей тяжелую работу грузчиков, оказался спорным. С одной стороны людей оставили в компании и предложили им другую работу — они стали заниматься упаковкой товаров. С другой — большинство работников начали жаловаться на невыносимые условия труда, которые привязаны к скорости работы машин. А недавно Amazon объявил , что заменит часть упаковщиков роботами и отправит людей на очередное переобучение. Не ясно, правда, кто именно сможет попасть в эту программу.
Оптимисты считают, что с эпохой полной автоматизации в мир придет изобилие. При широком внедрении искусственного интеллекта ВВП США может вырасти два пункта — до 4,6%, предполагают в исследовании компании Accenture. А Билл Гейтс предлагает облагать владельцев роботов налогом, сходным с налогами для работодателей.
Этих средств должно хватить, для создания социального фонда, который пойдет на обучение и переобучение, достойное здравоохранение и безусловный базовый доход. К сожалению, никто не гарантирует, что эта прибыль не осядет в карманах представителей большого бизнеса. Последние десятилетия всю выгоду от роста производительности труда получали именно владельцы бизнеса, а не их работники, что привело к еще большему разрыву между богатыми и бедными.
В одном пессимисты и оптимисты сходятся — наступает время, когда способность быстро учиться и переучиваться станет особенно ценной. Даже при хорошем стечении обстоятельств нас всех ждет нестабильное время, когда риск технологической безработицы возрастает, а социальная поддержка и переобучение не будут повсеместно доступными.
Что удивительно, недавнее исследование показало — хотя люди выступают против глобальной роботизации, они будут меньше переживать, если лично их работа достанется роботу, а не другому человеку. Это потенциально поможет соцработникам будущего выстраивать отношения с людьми оставшимися без работы из-за машин. Раз их самооценка пострадает не так сильно, как при обычном увольнении, можно будет быстрее сосредоточится на переподготовке и поиске нового места.
Photo by Franck V. on Unsplash Photo by Franck V. on UnsplashК счастью, в ближайшем будущем такая картина нам не грозит. Коллега Эрика Бриньолфсона Эндрю Макафи обращает внимание , что несмотря на все страхи, автоматизация сейчас движется достаточно медленно. Ее обширное внедрение было бы связано с резким ростом производительности труда, а этот показатель в США за последние годы вырос всего на 0,6% — это самый низкий показатель со времен Второй Мировой войны. В России и европейских странах тоже не видно внезапного роста.
Даже если мы застанем период, когда большая часть труда перейдет роботам, люди не так сильно рискуют. Человечность, эмоции и творческие способности станут еще более востребованы, чем раньше. Поэтому стоит подготовиться к учебе и оставаться человеком.
Ася Барзова
« Цех » — медиа о непрерывном образовании взрослых людей. Мы целиком захвачены идеей постоянного развития личности — профессионального, интеллектуального, эмоционального и даже духовного. Мы исследуем, как, чему и где лучше всего учиться и, главное, зачем. Если вам понравился этот материал, подпишитесь, пожалуйста, на нашу почтовую рассылку.
Следующий анекдот
Многим знаком фильм «Терминатор», в котором искусственный интеллект вышел из-под контроля и объявил войну всему человечеству. Подобные сценарии встречаются и в менее известных фильмах, например в работе "Вирус", где компьютер воспринимал человека как вирус и пытался уничтожить.
Восстание машин или осмысленная агрессия роботовСегодня, в век высоких технологий, невольно возникает вопрос: насколько вероятна возможность реализации подобного сценария в реальности? Ведь кажется, что любой скайнет можно победить, просто вытащив вилку из розетки. Увы, даже сегодня всё уже не так просто. Давайте посмотрим, на пару реальных случаев, когда роботы "пытались убить всех человеков" (с)!
Машины, пусть пока в результате технического сбоя, виной которому антропогенный фактор, выходят из строя и последствия самые ужасные.
Самое большое количество несчастных случаев по вине роботов происходит на крупных промышленных предприятиях и фабриках, где в немалом количестве присутствуют руки-манипуляторы, конвейеры, складские роботы и прочее.
Первый такой случай произошел еще в далеком 1979 году, когда рабочий фабрики Ford скончался в результате удара по голове, нанесенного роботом весом в тонну. Правда в данном случае, скорее сказалась техника безопасности.
Восстание машин или осмысленная агрессия роботовГораздо более страшный случай произошел в японском городе Акаси в 1983. году, где инженер, чинивший робота, был столкнут последним в дробилку. Как было выявлено позже, работник завода случайно задел тумблер и машина включилась.
В 2015 году на заводе Volkswagen промышленный робот схватил 21-летнего инженера и буквально расплющил его об лист металла. Виной всему назвали несоблюдение работником техники безопасности, так как инженер находился в металлической клетке, которая окружает роботов, обрабатывающих металл. Его коллега по цеху, находящийся за пределами злополучной клетки, не пострадал.
А на заводе автозапчастей в Детройте в том же году тот же робот, специализирующийся на обработке металлов, неожиданно вышел из строя и раздавил голову работнице завода, а затем попытался поместить ее в зажим.
20-летняя сотрудница завода Ajin USA погибла всего за пару недель до свадьбы. Именно в этот трагичный день она решилась восстановить работоспособность поломанного робота. Но устранение этой поломки находилось вне компетенции сотрудников фабрики. В процессе починки робот неожиданно перезагрузился и толкнул работницу в другую машину.
Все описанные примеры относятся скорее к невнимательности сотрудников, выполнявших работу и к несоблюдению техники безопасности. Тут всё можно было бы изменить. Но бывают и более серьезные проблемы, которые больше похожи на злой умысел и работу Скайнета, нежели на случайность.
В 2007 году 9 южноафриканских солдат погибло в результате вышедшей из-под контроля системы противовоздушной обороны. Зенитная установка, предназначенная для автоматического обнаружения и ликвидации наземных целей, в результате программного и механического сбоя вышла из строя, а затем выпустила двести пятьдесят фугасных снарядов по своим же солдатам, находящимся вблизи. 9 человек погибли, еще 14 пострадали.
Как сообщили представители некоторых компаний, занимающихся разработкой подобных установок, это далеко не первый случай выхода из строя автоматических зенитных установок. Однако первый раз в результате данного инцидента погибли люди.
Восстание машин или осмысленная агрессия роботовПроблемы случаются и с системами автопилотирования . В 2009 году был зафиксирован инцидент, приведший к крушению самолёта. При посадке автопилот заблокировал положение подкрылок и выключил возможность ручного отключения. В итоге самолёт зашёл на посадку под неправильным углом, что привело к трагедии. Пилоты попросту не успели понять ,как можно оперативно отключить эту блокировку.
Стоит ли говорить про компьютерные вирусы, которые живут своей жизнью и часто отравляют нам жизнь. Те же программы-трояны, которые могут спокойно закидывать нас рекламой или воровать данные карточки. Представим на секунду, что такой троян окажется в какой-то системе жизнеобеспечения или другой важной системе. Вот и приблизится Терминатор на пару дней).
Восстание машин или осмысленная агрессия роботовДа и развитие современных нейросетей может сказаться тут весьма отрицательным образом. Ведь если научить компьютер обучаться, он сможет обучиться и защите от внешнего вмешательства. Или скрывать запущенные процессы.
Остается разобраться с тем, можно ли считать сбои недоработкой программного обеспечения и стандартной ожидаемой ошибкой, или же мы имеем дело с уже некоторыми элементами искусственного интеллекта , ориентированного против нас.
Для того, чтобы ответить на этот вопрос, нужно наблюдать за имеющейся картиной длительное время и проводить четкую аналитику каждого случая. Но технически отметим, что подобный процесс сегодня вполне возможен и существовать ему ничего не мешает. Пока мы можем обесточить компьютер, являющийся источником этого "мышления", именно, что развития сценария "Терминатора" ждать не стоит. Но рано или поздно роботы смогут защищать свои ресурсы :) .
Следующий анекдот
Илон Маск рассказал онлайн-изданию Axios о проблеме ИИ. Согласно его прогнозу ИИ — реальная угроза. Он разовьётся — и вытеснит человечество, как мы вытеснили приматов.
Мы не согласны с этим. Конечно, мы — не выдающиеся светила науки как Илон, но тоже знаем роботов “изнутри”, поэтому имеем право на экспертное мнение. В этой статье все подробно расскажем и объясним.
Вы узнаете про:3 причины, почему роботов не стоит опасаться.
Хотите подробностей? Тогда читайте дальше.
Об автореВсем привет! Мы, HyperUp — платформа для интеграции информационных систем и роботизации бизнес-процессов. Мы работали с Газпромтранс, IT-компанией “Танаис”, ТД “Башхим”, Авиакомплексом им. С.В. Ильюшина и другими организациями.
Мы делаем программных роботов.
Мы уверены: “Если бы роботы могли нас вытеснить, то они давно бы это сделали. Это случилось бы ещё на уровне бытовых электроприборов — армия микроволновок, холодильников и стиральных машин сделали бы быт человека ужасным, а компьютеры Intel превратились в киллеров.”
- Роботы выполняют только заданную функцию. К 2019 году человечество изобрело устройства 3 режимов работы — автоматические, полуавтоматические и автономные. ИИ реализован как раз внутри последних. Это когда человек ставит перед роботом задачу, а ИИ думает над ее выполнением.
- Даже ИИ управляется оператором — для предотвращения ошибок и своевременного сервиса.
- Кроме того, ИИ однобок. Нельзя обучить робота делать одну функцию и думать, что с помощью ИИ он научится делать все остальные. Например, обучив робота играть в шахматы нельзя дать ему ссылку на Counter Strike и сказать "играй". Так может только человек.
Искусственный интеллект целесообразно применять только на определённых участках процессов. Например, при распознавании изображений.
Но описывать алгоритмы, как это изображение попадает к роботу и что нужно с ним сделать после того, как изображение будет распознано — это может только человек.
3 направления, в которых ИИ не сможет превзойти человека НИКОГДА- Распознавание способов взаимодействия в команде.
- Определение предрасположенности к определенной деятельности.
- Творческая деятельность (в понимании “создаём то, что раньше не существовало.”).
Да, роботы выигрывают в работе с большими массивами данных, рутиной.
Но они не могут быть гибкими и понимающими в отношении исключительных ситуаций. Если нужно найти решение, с которым программа раньше не сталкивалась, то у неё ничего не получится.
4 рекомендации по предотвращению восстания роботов в бизнесе 1. Систематически общаться с роботомРоботы строятся по принципу логирования всех своих действий. Некоторые из них умеют отправлять отчеты по почте или в мессенджере.
Чтобы лучше понять робота, необходимо изучать его отчёты, анализировать результаты его деятельности за прошлый период, проверять, с какими ошибками столкнулся робот.
Всё это поможет совершенствовать его алгоритм.
2. Не давать ему творческие задачиКонечно искусственный интеллект развивается большими темпами и активно начинает применяться в задачах бизнеса, но пока в массе своей роботы выполняют рутину.
Роботы не справляются с творческими задачами. Зато они прекрасно работают с данными.
3. «Дружить роботов между собой»Внедряя роботов вы скорее всего столкнетесь с необходимостью подключения нескольких программ. Тогда их может стать слишком много, и нужно будет оптимизировать временные затраты на управление ими.
Эффективнее всего управлять роботами из единого контрольного пункта — фермы. Она делается с помощью интеграционных шин, позволяющих объединить несколько роботов между собой.
Ферма поможет роботам разгружать друг друга. Если один робот может не успевать сделать всё, то 2 всё смогут :)
4. «Дать ему испытательный срок»Задействовать робота на не критическом участке бизнес-процесса.
Критический участок — часть бизнес-процесса, где принимается решение о совершении или не совершении действия. Если поставить робота на КУ сразу, то произойдёт сбой.
Сначала нужно отладить робота, понять особенности и ограничения, и только после этого передавать ему задачи на критическом участке.
Кейсы внедрения безопасных роботовПокажем на примерах из практики, как это работает.
Кейс 1 “Бизнес-процесс “Управление командировками”В рамках данного кейса робот покупает авиабилеты в процессе оформления командировки.
Упрощенно процесс состоит из следующих этапов:- Указать параметры командировки.
- Согласование командировки.
- Покупка билетов.
Указать параметры командировки:
· Получение цен, вычисление стоимости командировки.
Кейс 2 “Бизнес-процесс “Оплата счета” Упрощенно процесс состоит из следующих этапов:Согласование оплаты счета.
Отправка счета на оплату.
На разных этапах робот может выполнять следующие задачи:1. Получение счёта:
· Робот заходит в почтовый клиент, извлекает письмо со счетом.
· Далее заносит счет в информационную систему.
Запускает процесс согласования оплаты счета.
Отправка счета на оплату:
· Робот открывает банк-клиент, переносит данные из счета в банк-клиент, проводит оплату.
3 причины, по которым наши роботы никогда не восстаютМы создаем роботов в помощь. Они раздвигают границы возможностей человека.
Отдаём контроль над ними. Программы работают автономно только частично.
Цель наших роботов — облегчить вашу долю и освободить место для творческих, стратегически важных решений человеку. Мы прописываем это в их коде, так что они никогда не посчитают человека потенциальной угрозой.
Если мы говорим, что апокалипсиса не будет, то хорошо бы уточнить, что будет. Сейчас мы расскажем об этом.
Прогноз будущегоВ феврале 2017 года физик-теоретик Стивен Хокинг и Илон Маск решили, что люди должны ограничивать возможности ИИ. Подробнее об этом можно прочитать здесь. Это для предотвращения исхода, когда роботы обойдут человечество по уровню развития и “вытеснят”, подобно как мы вытеснили приматов в своё время.
Однако это не произойдёт в ближайшие 10-20-30 лет точно.
Сегодня роботы создаются на основе математических алгоритмов. Они не могут творить, создавать себе подобных. Вдобавок робот лишён многого, что есть у человека — об этом мы писали выше.
Цифровизация ТРИЗ и её внедрение в ИИ будет дорогостоящим. И даже если кто-то решится внедрить эту технологию, он потратит на это колоссальное количество ресурсов. Вряд ли денег и времени на это хватит даже у масонов или Илона Маска.
В будущем случится синергия человека и робота. Роботы будут дополнять человека там, где это возможно. Они займутся решением рутинных задач и освободят время человека для творчества.
Читайте также: