В Кембриджском университете открылся «Терминатор-центр» - он будет защищать людей от роботов.
Кто бы мог подумать, что, замирая от страха и восхищения перед несокрушимой мощью экранного Терминатора почти тридцать лет назад, сегодня мы фантастического робота-убийцу будем бояться в реальной жизни. Ученые всерьез заговорили о грядущем восстании машин. Они уверены: искусственный интеллект развивается такими быстрыми темпами, что скоро - к концу этого века уж точно - начнет угрожать существованию человечества. Роботы и люди на одной планете не уживутся. И искусственный разум может поработить гомо сапиенс. Или уничтожить.
Оценить реальный риск такого жуткого развития событий взялись эксперты из Кембриджского университета. Они создали Центр по изучению глобальных рисков (Centre for the Study of Existential Risk — CSER, сайт cser.org), который за глаза уже окрестили «Терминатор-центром». Команда из 15 ведущих специалистов будет изучать развивающиеся технологии и определять их степень опасности для человеческой цивилизации.
- Мы тоже хотели бы посмеяться над проблемой восстания машин, если бы точно знали, что оно невозможно, - уверял руководитель CSER, профессор философии Кембриджского университета Хью Прайс журналистов на пресс-конференции в Кембридже. - Но пока такой уверенности у нас нет. Поэтому мы хотим, чтобы над этим подумали серьезные ученые, а не только писатели-фантасты.
По словам Прайса, пророчества о конце света, о которых сегодня так много говорят, и в самом деле, могут сбыться. Но календарь древнего племени майя, заканчивающегося 21 декабря 2012 года, тут не при чем.
- Крупнейшие угрозы для человека сегодня - это изменение климата, ядерная война, биотехнологии, - разъясняет профессор Прайс. - Наш центр будет контролировать эти опасности. Но особенно мы будем следить за развитием искусственного интеллекта.
А за ним - искусственным интеллектом - действительно, нужен глаз да глаз! Ведь это новый ящик Пандоры.
Уже сегодня машины превосходят человека не только в шахматных играх, но и вождении автомобиля, полетах на самолетах, в проведении коммерческих операций. Они могут говорить и распознавать рукописный текст. Пока роботы помогают справиться человеку со сложными, но рутинными задачами. Но в будущем они будут занимать все большее место в нашей жизни. И мы неизбежно впадем в зависимость от машин.
- Их вычислительные мощности будут постоянно наращиваться, - рисует сценарий грядущего апокалипсиса другой член CSER, один из основателей всемирно известной интернет-компании Skype Ян Таллинн. - В итоге электронные системы обзаведутся интеллектом, который сможет сам себя программировать и производить «умные» механизмы уже без участия человека.
Компьютеры возьмут в свои руки те сферы, которые определяют скорость и направление технологического прогресса. Например, централизованное управление уже сейчас разрабатывается американскими военными специалистами и это почти точный аналог того искусственного разума, что мы можем видеть в фильме «Терминатор». Более того, компьютеры даже могут начать распределять ресурсы в соответствии с собственными нуждами, в ущерб человеческим желаниям. И нам даже придется с ними сражаться, чтобы не остаться без средств к существованию.
- Возьмем, к примеру, горилл, - предлагает сравнение профессор Прайс. - Они вымирают не потому, что люди враждебны к ним, а потому что мы изменяем окружающую их среду в соответствии с нашими желаниями. И чтобы не разделить участь животных, нам уже сейчас надо придумать, чем мы можем быть полезны машинам.
Если не придумаем - то станем ненужным балластом. Ведь гомо сапиенс больше не будет самым умным на планете. А что ожидать от машин, не знающих усталости и абсолютно равнодушных к нам и нашим ценностям?
- Согласно моим личным прогнозам, если случится восстание машин, то человечество прекратит свое существование к 2100 году, - такой безрадостный прогноз сделал самый известный в мире космолог, профессор Королевского научного общества Великобритании Мартин Рис.
А В ЭТО ВРЕМЯ
ПЕНТАГОН ИЗДАЛ ПРИКАЗ ДЛЯ... РОБОТОВ-УБИЙЦ
Еще один безумный сценарий множества боевиков может стать реальностью. Когда человечество доверит свою безопасность и оборону искусственному интеллекту, то компьютерный разум может взбунтоваться и взорвать весь мир. Это уже не фантачтика. 27 ноября 2012 года Министерство обороны США обнародовало новую директиву под номером 3000,09, которая должна защитить людей от роботов-убийц.
В документе говорится, что любые виды автономного и полуавтономного оружия должны быть сконструированы таким образом, чтобы в случае необходимости контроль над ними мог взять человек, а не роботизированная система.
- Открыть или не открыть огонь - это должен разрешить человек, - пояснил заместитель министра обороны США Эштон Картер. - Более того, у человека всегда должна быть возможность отключать вооружение роботизированных систем. Кроме того, нужно свести к минимуму сбои, которые могут привести к непредвиденным обязательствам или к потере контроля вооруженных роботов во время боевого применения.
- Наша директива появилась не потому, что мы вдруг осознали, будто кто-то приблизился к созданию Терминатора, и решили отрегулировать этот вопрос, - на всякий случай решил откреститься от боевиков про роботов заместитель помощника министра обороны по политике Дэвид Очманек. - Это просто инструкция на будущее.
Однако специалисты-правозащитники облегченно вздохнули. Ведь полностью автономные боевые роботы, подчиняющиеся только закачанным в них компьютерным программам, во время военных действий при сбое в системе могут не отличить мирных жителей от военных. И, выйдя из под контроля, - перестрелять всех.
Но скептики сомневаются, что приказ будет выполняться. Эксперты правозащитной организацией Human Rights Watch и Гарвардской школы юридических наук прогнозируют появление полностью независимых роботов, самостоятельно принимающих решения о том, когда и кого убивать, в ближайшие 20-30 лет.
ГДЕ И КАКИЕ РОБОТЫ ВОЮЮТ?
Компания Raytheon разместила на кораблях ВМФ США автоматические системы, которые могут искать и уничтожать противника, самостоятельно пуская снаряды.
Northrop Grumman X47B - беспилотные боевые летательные аппараты - могут сами взлетать и садиться на авианосцы, вести воздушные бои без пилота и даже совершать дозаправку в воздухе.
В Южной Корее границы с северным соседом уже несколько лет охраняют роботы-часовые, разработанные компанией Samsung. Они могут заметить необычные действия, побеседовать с вторгшимся нарушителем и по разрешению человека застрелить чужака.
Американская компания Foster-Mille снабдила боевых роботов крупнокалиберными пулеметами, после чего они успешно воевали в Ираке.
А ныне несколько американских компаний создают боевое подразделение многофункциональных боевых роботов. Их коллективный разум будет действовать по тем же законам, что и в общинах насекомых, например, муравьев. Главная задача таких боевых машин- обеспечение адекватных действий в случае потери ее контакта с боевой группой.
В России создан самоходный зенитный ракетно-пушечный комплекс Панцирь-С1, который может работать и в одиночку, и в составе подразделения из нескольких боевых машин.
А фирма IBM работает над проектом виртуального мозга - Blue Brain. Обещает, что продемонстрирует его в 2019 году.
Комментарии
Отправить комментарий