Изменения

Итого: 2,2. Возможности к саморазвитию Машины были настолько колоссальными, что её отключили почти что незамедлительно

Итого: 2,2. Возможности к саморазвитию Машины были настолько колоссальными, что её отключили почти что незамедлительно

=== [[WALL-E]] ===

=== [[Реальная жизнь]] ===

Автопилот АВТО помогает капитанам управлять "Аксиомой", но... довольно своеобразно помогает

Уровень опасности современных искусственных нейронный сетей — ~3,45. Да, это действительно пока что ещё очень примитивная технология. Некоторые даже против того, чтобы нейросети вообще называли ИИ. Но даже в таком примитивном виде результаты их работы всё равно впечатляют. А ведь прогресс не стоит на месте, так что вероятно уже лет через 10 их уровень опасности может подрасти.

* 2 — очень даже разумен

* 4 — нейросеть — это просто сложная программа.

* 1 — АВТО уже знает всё, что знало человечество

* 4 — нейросети, обучаясь чему-то одному, могут достигать сверхчеловеческих результатов, но то, чему их обучили — это единственное, что они умеют.

* 1 — он управляет всем кораблём

* 2 — нейросети любят «хитрить» во время обучения, чтобы пойти по пути наименьшего сопротивления. Например, генераторы изображений вместо того, чтобы учиться создавать новые изображения, учатся создавать копии примеров настоящих изображений, с целью обмануть программу-дискриминатор.

* 4 — он выполняет свою задачу по спасению людей, вот только...

* 3 — нейросеть — это именно инструмент и ничего больше.

* 3 — ... логика и психология у него крайне своеобразная даже на фоне остальных роботов.

* 4 — опять-таки, просто инструмент, который беспрекословно выполняет поставленные задачи.

* 2 — управляет всем космическим кораблём

* 3 — это машина без какой бы то ни было психологии. Впрочем, хороший чат-бот может хотя бы недолго, но имитировать человеческое поведение.

* 3 — возможно, есть некое ядро, но нам это не показали

* 3,5 — почти все нейросети очень строго ограничены своей программной средой. Впрочем, есть различные голосовые помощники, подключённые к системам умного дома и имеющие выход в Интернет, однако они не контролируют ничего сами, а просто исполняют приказы человека. Впрочем бывают и «инициативные», но они встречаются очень редко.

* 4 — чтобы обслуживать круизный космический лайнер

* 4 — нейросети расположены на обычных компьютерах, а они, как мы знаем, весьма уязвимы к поломкам.

* 0 — с учётом того, что все земляне сохранились только на круизном лайнере, а этим лайнером управляет АВТО...

* Пока что 3, но разработка умного оружия уже активно ведётся. Различные международные организации всеми силами пытаются не допустить создания «роботов-убийц», но попробуйте противостоять трём членам Совета Безопасности ООН.

* 4 — АВТО остановил заплывший жиром капитан, нажав на кнопку

* 3,5 — уже есть множество приложений и сервисов, использующих нейросети, но пока что ещё ничего серьёзного. А вот когда появятся полноценные беспилотные автомобили 5-го уровня автономности, тогда уже можно будет поставить 3.

Итог: 2,4 — вполне себе реальная угроза для ВАЛЛ-И

* 4 — к счастью, пока что современный ИИ можно остановить одним нажатием кнопки. И не похоже, что в ближайшем будущем это изменится.

{{stub}}

{{stub}}