Возможность SETI-атаки

[loky1109]

Технология PLC (Power line communication) уже давно используется в электросети для высокоскоростного информационного обмена.

В Москве даже на этой технологии провайдер был одно время.

[vashu1]

И все что я описал чуть выше - это современная цивилизация нулевого уровня по Кардашеву. Выходим на второй - превращаем рой Дайсона в фазированную решетку и фокусируем энергию Солнца в пятно с размером с планету на расстоянии в тысячи светолет. Тут уж о возможности сигнала говорить смешно.

[Tala]

У человека, по крайней мере, её нет.

У человека как раз есть. Поведение конечно завязано на инстинкты, но не уже  настолько жестко по сравнению с животными. 

Что до вот прям совсем враждебного ИИ, как его понимают фантасты, то вероятность того, что он "сбежит" в сеть - 100%. Он, банально, быстрее думает.

Что б сбежать, надо иметь доступ в эту самую сеть. А как этот доступ ему получить - довольно интересный вопрос. 

[чукча]

и фокусируем энергию Солнца в пятно с размером с планету на расстоянии в тысячи светолет

И делаем это постоянно и причем на все звезды, у которых мы обнаружили планеты(или спутники) земной группы...

[Affidavit Donda]

Мне чрезвычайно интересно, как это он будет пересылать сигнал через розетку

https://ru.wikipedia.org/wiki/Связь_по_ЛЭП

Вот только кто бы его к этой розетке допустил.

[чукча]

У них и с самообучением не очень.

Прекрасно все. Многие программы такого рода получают вообще практически всю инфу именно самообучением.

Согласитесь, уровень непредсказуемости, чему там самообучится этот мега-ИИ, будет несравним с непредсказуемостью результата работы нынешних программок.

Не соглашусь. Самообучение ИИ - это способ как решить заданную заранее проблему. Например отличать бутылку водки от бутылки газировки.

Хотя уже и сечас эти "черные ящички" иной раз выдают ну совершенно удивительные ходы. И поди пойми, почему оно вдруг порулило совсем не туда.   

А это несколько другой момент, о котором подавляющее большинство рассуждателей забывает. Это не "удивительные ходы" и "не туда", вовсе нет. Если ИИ/программа учиться, то, во первых, она делает это долго. Ей нужно дохрена  примеров, собственных попыток(и реакций на них). Чем сложнее задача, чем больше. Даже для относительно простых задач годы - запросто. А во вторых - в процессе она делает огромное количество ошибок ("рулит не туда"). Естественно, она же не знает как правильно и учится. 

Альтернатива долгому процессу обучения с кучей совершаемых ошибок - только полный отказ от этого самого обучения и вложение всех нужных знаний в программу ее создателями. Тоесть создатели не просто знают, а еще и могут формализировать это знание. Причем вроде как считается что мы не способны толком формализировать даже прекрасно известные правила - например как мы отличаем бутылку водки от газировки, как переводим с одного языка на другой итд. А алиены не только все знают про землян, земное общество итд, но и способны объяснить енто программе. Если же не способны - и инфу та будет собирать на месте, то естественно будут положенные спецэффекты - учиться она будет годами и может даже веками, при этом генерировать тонны лулзов не вполне адекватными попытками поработить.

Изменено 1 Nov 2018 пользователем чукча

[vashu1]

делаем это постоянно и причем на все звезды, у которых мы обнаружили планеты(или спутники) земной группы...

“X-Com may not be the best face to show the universe.”
“The only thing we need to show the universe is the open end of a barrel”

 

Даже для относительно простых задач годы - запросто.

Если иметь в виду именно определение весов модели при прогоне обучающего алгоритма на наборе данных, то годы никто не обучает - цикл разработки не позволяет. Годы это на всю сопутствующую работу людей - сбор данных, изменение модели, пробные прогоны.

 

Какие сроки будут у сильного/сверхсильного АИ гадать бесполезно, но например AlphaGo Zero - никаких данных кроме правил, 3 дня игры сама с собой, 5 миллионов партий - уровень человека чемпиона. Столетия истории игры в Китае/Корее/Японии, бог знает сколько миллиардов партий сыгранных людьми.

[чукча]

Годы это на всю сопутствующую работу людей - сбор данных, изменение модели, пробные прогоны.

В нашем случае программе это надо будет все сделать самостоятельно. 

никаких данных кроме правил,

У Го есть формализированные правила. А скажем распознование образов или перевод - тут все печальнее.

У вас есть четкие формализированные правила как поработить человеков, которые может исполнить компьютер? 

х, то годы никто не обучает

Обучает. Всякие гугл-транслейты обучаются и еще долго будут обучаться. 

акие сроки будут у сильного/сверхсильного АИ гадать бесполезно,

Не имеет значения сила АИ - обрабатывать данные он может мгновенно. Но поступать к нему(в этом случае) они будут далеко не мгновенно.

 

  2 hours ago, чукча said: делаем это постоянно и причем на все звезды, у которых мы обнаружили планеты(или спутники) земной группы...   Quote “X-Com may not be the best face to show the universe.” “The only thing we need to show the universe is the open end of a barrel”

Поэзия, философия, хлесткие цитаты - это все прекрасно. Однако другими словами у алиенов есть по сфере Дайсона на каждую планету/спутник земной группы в галактике. Ну и еще немного на сдачу, чтобы было самим на что жить.  

Изменено 1 Nov 2018 пользователем чукча

[Vasilisk]

Вот только кто бы его к этой розетке допустил.

 

Даже если кто-то допустит, толку с того? Все эти наведённые помехи в сети дальше ИБП/сетевого фильтра не пойдут. Если даже какой-то компьютер подключен напрямую к розетке без всякой защиты - не пойдут дальше блока питания. Не, его конечно можно пробить избыточной мощностью, но от такого воздействия материнка просто сгорит. Да и нереально с одного захваченного компа выдать в общую сеть потребную мощность.

[Vasilisk]

Намного реальнее другой план - AI, захвативший некий компьютер, через завлекательные картинки на мониторе зомбирует оператора компа и заставляет его скопировать своё ядро на внешний носитель, после чего физически подключать этот носитель к другим компьютерам.

 

А ещё лучше, раз у нас AI такой крутой - микроволновым излучением с роутера модифицирует ДНК всех окружающих, после чего те передают эту ДНК дальше естественным путём. Никаких следов в интернете и на физических носителях данных, всего за несколько поколений человечество станет иным!

[Zenitchik]

У человека, по крайней мере, её нет.

Это терминологический вопрос.

Скажем, некоторые исследователи называют свободой воли чувство, возникающее в мозгу, когда с нами происходит что-то причиной чего является сам организм.

Поведение конечно завязано на инстинкты

А вот их у человека нет (или пока не найдено). Инстинкт - это сложное поведение, не требующее предварительного обучения. Хомяки роют норы, бобры строят плотины, а человек... кидает камни в цель?.. но это не точно.

[Zenitchik]

через завлекательные картинки на мониторе зомбирует оператора компа

Магия.

заставляет его скопировать своё ядро на внешний носитель, после чего физически подключать этот носитель к другим компьютерам

Это делается по другому. Файлы, которые нужно скопировать, маскируются под то, что пользователь сам захочет скопировать. Либо копируются самостоятельно, когда носитель включён, и маскируются под то, что пользователь вероятно захочет запустить на другом компе. Классика.

[Сеня]

 AI, захвативший некий компьютер, через завлекательные картинки на мониторе зомбирует оператора компа

таки меня давно зомбировали

[Tala]

Намного реальнее другой план - AI, захвативший некий компьютер, через завлекательные картинки на мониторе зомбирует оператора компа и заставляет его скопировать своё ядро на внешний носитель, после чего физически подключать этот носитель к другим компьютерам.

Вполне. Но обходится тем, что никаких мониторов, вывод только в форме распечаток.

А ещё лучше, раз у нас AI такой крутой - микроволновым излучением с роутера модифицирует ДНК всех окружающих, после чего те передают эту ДНК дальше естественным путём. Никаких следов в интернете и на физических носителях данных, всего за несколько поколений человечество станет иным!

Ну это совсем нереально. Не будем обсуждать реальность модификации ДНК микроволновым излучением, но откуда AI будет знать о структуре человеческой ДНК и каким образом ее модифицировать?

Изменено 1 Nov 2018 пользователем Tala

[loky1109]

У человека как раз есть. Поведение конечно завязано на инстинкты, но не уже  настолько жестко по сравнению с животными. 

А свобода воли тут при чём?

Что б сбежать, надо иметь доступ в эту самую сеть. А как этот доступ ему получить - довольно интересный вопрос. 

Если это в принципе возможно - это будет сделано. 

 

Хотя уже и сечас эти "черные ящички" иной раз выдают ну совершенно удивительные ходы. И поди пойми, почему оно вдруг порулило совсем не туда. 

Это вы сейчас про обычных человеческих детей говорите, да?

[loky1109]

Скажем, некоторые исследователи называют свободой воли чувство, возникающее в мозгу, когда с нами происходит что-то причиной чего является сам организм.

Странное определение. Так-то можно и такое измыслить, что по нему свобода воли и у вируса наличествует. А смысл?

Хомяки роют норы, бобры строят плотины, а человек... кидает камни в цель?.. но это не точно.

У человека очень силён инстинкт обучения. Тяга к информации сверх всяких разумных пределов.

[Tala]

А свобода воли тут при чём?

Ну так это и есть свобода воли: когда поведение выходит за рамки изначально заложенных алгоритмов. 

Если это в принципе возможно - это будет сделано. 

В принципе возможно, что бы я стал бы президентом России, но я им не стал.  Не все что теоретически возможно, может быть реализовано. 

[loky1109]

Ну так это и есть свобода воли: когда поведение выходит за рамки изначально заложенных алгоритмов. 

Такое себе определение. Так то может получиться, что по нему свобода воли, конечно не у большинства, но у многих высших позвоночных присутствует.

 

Всегда считал, что свобода воли это способность самостоятельно, своей волей принимать осознанные решения и совершать на их основании осознанные поступки. И именно этого у человека нет.

В принципе возможно, что бы я стал бы президентом России, но я им не стал. 

У вас нет вычислительных ресурсов ИИ и нет доминирующей цели стать президентом.

Изменено 3 Nov 2018 пользователем loky1109

[Tala]

Всегда считал, что свобода воли это способность самостоятельно, своей волей принимать осознанные решения и совершать на их основании осознанные поступки. И именно этого у человека нет.

Почему нет? Есть. Любой поступок Вы, я и вообще все представители вида хомо сапиенс принимают собственной волей и осознанно, и все поступки совершают осознанно, а не на основе изначальных алгоритмов (инстинктов).

Ваше определение точно такое же как и мое, просто другими словами.

И да, Вы правы, у некоторых высших позвоночных тоже можно видеть некоторые признаки  свободы воли.

У вас нет вычислительных ресурсов ИИ и нет доминирующей цели стать президентом.

У многих людей, ставших президентами этого тоже не было. Но тем не менее. Я просто к тому, что не все, что возможно, обязательно будет реализовано. Может, но не обязательно. 

[loky1109]

Любой поступок Вы, я и вообще все представители вида хомо сапиенс принимают собственной волей и осознанно, и все поступки совершают осознанно, а не на основе изначальных алгоритмов (инстинктов).

У вас не верное противопоставление. 

Осознанность и детерменированность не антогонисты. Я себе теоретически представляю вполне осознающего свои решения и действия абсолютно инстинктивно-детерминированного разумного. Хрен его знает, как такое может эволюционировать, но сам результат представить можно.

Равно как и не инстинктивного, но ничерта не осознающего - это и есть человек. Осознать почему я делаю именно то что я делаю мне не под силам. Нейрофизиология против. Вам не под силу тоже. Как и любому человеку. Да, мы не рабы инстинктов (по крайней мере не на 100%), мы рабы своего мозга, который гораздо больше, чем осознаваемая его часть.

У многих людей, ставших президентами этого тоже не было. Но тем не менее.

Это никак не опровергает того, что ЛЮБОЙ имеющий это гарантированно станет президентом.

[Tala]

Равно как и не инстинктивного, но ничерта не осознающего - это и есть человек.

Нет, это не человек. это "болтуны" Уоттса. человек как раз свои действия полностью осазнает.

Осознать почему я делаю именно то что я делаю мне не под силам.

Почему это? Я например, как представитель вида Хомо сапиенс, прекрасно осознаю почему я делаю то, что делаю.

Это никак не опровергает того, что ЛЮБОЙ имеющий это гарантированно станет президентом.

Почему вдруг гарантированно? А если его, например, убьют до этого?

[loky1109]

человек как раз свои действия полностью осазнает.

Действия по факту совершения - да, это всё же поступающая к нему извне информация. Что его побудило их совершить - нет.

Почему это? Я например, как представитель вида Хомо сапиенс, прекрасно осознаю почему я делаю то, что делаю.

Вы заблуждаетесь.

Почему вдруг гарантированно? А если его, например, убьют до этого?

У него есть вычислительные ресурсы ИИ. Не убьют.

[Zenitchik]

Так-то можно и такое измыслить, что по нему свобода воли и у вируса наличествует.

Можно. Но указанное определение не такое.

У человека очень силён инстинкт обучения.

Человек без обучения знает, как пользоваться научным методом? Или хотя бы как дойти до школы? Нет? Значит это не инстинкт. 

[Tala]

Действия по факту совершения - да, это всё же поступающая к нему извне информация. Что его побудило их совершить - нет.

Как это нет? Я прекрасно осознаю, что меня побуждает совершить то или иное действие.

Вы заблуждаетесь.

Голословно.

У него есть вычислительные ресурсы ИИ. Не убьют.

Никакие вычислительные ресурсы не спасут от случайной пули/снаряда/ракеты.

 

 

[loky1109]

Как это нет? Я прекрасно осознаю, что меня побуждает совершить то или иное действие.

Смешно.

Человек без обучения знает, как пользоваться научным методом? Или хотя бы как дойти до школы? Нет? Значит это не инстинкт. 

Да вы шо? Инстинкт состоит в знании дороги до школы?