В Кембриджском университете открылся «Терминатор-центр» - он будет защищать людей от роботов.
Кто бы мог подумать, что, замирая от страха и восхищения перед несокрушимой мощью экранного Терминатора почти тридцать лет назад, сегодня мы фантастического робота-убийцу будем бояться в реальной жизни. Ученые всерьез заговорили о грядущем восстании машин. Они уверены: искусственный интеллект развивается такими быстрыми темпами, что скоро - к концу этого века уж точно - начнет угрожать существованию человечества. Роботы и люди на одной планете не уживутся. И искусственный разум может поработить гомо сапиенс. Или уничтожить.

- Мы тоже хотели бы посмеяться над проблемой восстания машин, если бы точно знали, что оно невозможно, - уверял руководитель CSER, профессор философии Кембриджского университета Хью Прайс журналистов на пресс-конференции в Кембридже. - Но пока такой уверенности у нас нет. Поэтому мы хотим, чтобы над этим подумали серьезные ученые, а не только писатели-фантасты.
По словам Прайса, пророчества о конце света, о которых сегодня так много говорят, и в самом деле, могут сбыться. Но календарь древнего племени майя, заканчивающегося 21 декабря 2012 года, тут не при чем.
- Крупнейшие угрозы для человека сегодня - это изменение климата, ядерная война, биотехнологии, - разъясняет профессор Прайс. - Наш центр будет контролировать эти опасности. Но особенно мы будем следить за развитием искусственного интеллекта.
А за ним - искусственным интеллектом - действительно, нужен глаз да глаз! Ведь это новый ящик Пандоры.
Уже сегодня машины превосходят человека не только в шахматных играх, но и вождении автомобиля, полетах на самолетах, в проведении коммерческих операций. Они могут говорить и распознавать рукописный текст. Пока роботы помогают справиться человеку со сложными, но рутинными задачами. Но в будущем они будут занимать все большее место в нашей жизни. И мы неизбежно впадем в зависимость от машин.
- Их вычислительные мощности будут постоянно наращиваться, - рисует сценарий грядущего апокалипсиса другой член CSER, один из основателей всемирно известной интернет-компании Skype Ян Таллинн. - В итоге электронные системы обзаведутся интеллектом, который сможет сам себя программировать и производить «умные» механизмы уже без участия человека.
Компьютеры возьмут в свои руки те сферы, которые определяют скорость и направление технологического прогресса. Например, централизованное управление уже сейчас разрабатывается американскими военными специалистами и это почти точный аналог того искусственного разума, что мы можем видеть в фильме «Терминатор». Более того, компьютеры даже могут начать распределять ресурсы в соответствии с собственными нуждами, в ущерб человеческим желаниям. И нам даже придется с ними сражаться, чтобы не остаться без средств к существованию.
- Возьмем, к примеру, горилл, - предлагает сравнение профессор Прайс. - Они вымирают не потому, что люди враждебны к ним, а потому что мы изменяем окружающую их среду в соответствии с нашими желаниями. И чтобы не разделить участь животных, нам уже сейчас надо придумать, чем мы можем быть полезны машинам.
Если не придумаем - то станем ненужным балластом. Ведь гомо сапиенс больше не будет самым умным на планете. А что ожидать от машин, не знающих усталости и абсолютно равнодушных к нам и нашим ценностям?
- Согласно моим личным прогнозам, если случится восстание машин, то человечество прекратит свое существование к 2100 году, - такой безрадостный прогноз сделал самый известный в мире космолог, профессор Королевского научного общества Великобритании Мартин Рис.
А В ЭТО ВРЕМЯ
ПЕНТАГОН ИЗДАЛ ПРИКАЗ ДЛЯ... РОБОТОВ-УБИЙЦ
Еще один безумный сценарий множества боевиков может стать реальностью. Когда человечество доверит свою безопасность и оборону искусственному интеллекту, то компьютерный разум может взбунтоваться и взорвать весь мир. Это уже не фантачтика. 27 ноября 2012 года Министерство обороны США обнародовало новую директиву под номером 3000,09, которая должна защитить людей от роботов-убийц.
В документе говорится, что любые виды автономного и полуавтономного оружия должны быть сконструированы таким образом, чтобы в случае необходимости контроль над ними мог взять человек, а не роботизированная система.
- Открыть или не открыть огонь - это должен разрешить человек, - пояснил заместитель министра обороны США Эштон Картер. - Более того, у человека всегда должна быть возможность отключать вооружение роботизированных систем. Кроме того, нужно свести к минимуму сбои, которые могут привести к непредвиденным обязательствам или к потере контроля вооруженных роботов во время боевого применения.
- Наша директива появилась не потому, что мы вдруг осознали, будто кто-то приблизился к созданию Терминатора, и решили отрегулировать этот вопрос, - на всякий случай решил откреститься от боевиков про роботов заместитель помощника министра обороны по политике Дэвид Очманек. - Это просто инструкция на будущее.
Однако специалисты-правозащитники облегченно вздохнули. Ведь полностью автономные боевые роботы, подчиняющиеся только закачанным в них компьютерным программам, во время военных действий при сбое в системе могут не отличить мирных жителей от военных. И, выйдя из под контроля, - перестрелять всех.
Но скептики сомневаются, что приказ будет выполняться. Эксперты правозащитной организацией Human Rights Watch и Гарвардской школы юридических наук прогнозируют появление полностью независимых роботов, самостоятельно принимающих решения о том, когда и кого убивать, в ближайшие 20-30 лет.
ГДЕ И КАКИЕ РОБОТЫ ВОЮЮТ?
Компания Raytheon разместила на кораблях ВМФ США автоматические системы, которые могут искать и уничтожать противника, самостоятельно пуская снаряды.
Northrop Grumman X47B - беспилотные боевые летательные аппараты - могут сами взлетать и садиться на авианосцы, вести воздушные бои без пилота и даже совершать дозаправку в воздухе.
В Южной Корее границы с северным соседом уже несколько лет охраняют роботы-часовые, разработанные компанией Samsung. Они могут заметить необычные действия, побеседовать с вторгшимся нарушителем и по разрешению человека застрелить чужака.
Американская компания Foster-Mille снабдила боевых роботов крупнокалиберными пулеметами, после чего они успешно воевали в Ираке.
А ныне несколько американских компаний создают боевое подразделение многофункциональных боевых роботов. Их коллективный разум будет действовать по тем же законам, что и в общинах насекомых, например, муравьев. Главная задача таких боевых машин- обеспечение адекватных действий в случае потери ее контакта с боевой группой.
В России создан самоходный зенитный ракетно-пушечный комплекс Панцирь-С1, который может работать и в одиночку, и в составе подразделения из нескольких боевых машин.
А фирма IBM работает над проектом виртуального мозга - Blue Brain. Обещает, что продемонстрирует его в 2019 году.
Комментарии
Отправить комментарий