Освоение космоса - ближнего и не очень

[1kvolt]

8 часов назад, xcb сказал:

ЗА любым чувством стоит химия. и даже немного - физика

Ну так-то да. Но из контекста беседы ИМХО очевидно, что речь идет о всяких гормонах и т.п. Не придирайся. 

8 часов назад, xcb сказал:

Антропоцентризм вреден для понимания ИИ. "Кругом враги" (с) - наследие предков, слишком довлеет над попытками понять.

Дело в том, что понятие "кругом враги" возникло именно из-за природы человеков. И пока человеки есть - они будут "кругом врагами". Наиболее надежный и эффективный способ устранить это - устранить человеков. Уверен, ИИ быстро к этому придет.

8 часов назад, xcb сказал:

Это эпилепсия называется. Ты же в курсе, что если рассечь продолговатый мозг, то человек начнет мыслить полушариями по отдельности. Диагонально причем

Подробностей не знал, но что-то такое слышал. Но в нашем случае речь скорее о диссоциативном расстройстве идентичности, также известном как раздвоение личности.

 

3 часа назад, Игорь сказал:

это просто неверное представление автора об ИИ. Если он думает,что "умность" ИИ зависит исключительно от размера,то глубоко ошибается. ИИ влёгкую может делиться,размножаться или объединяться. Проблем вообще никаких.

Есть мнение, что важен не размер, а умение пользоваться сложность системы. Определенная критическая масса элементов и связей между ними.

3 часа назад, Игорь сказал:

к сожалению,это не так.

К счастью, это именно так. 

3 часа назад, Игорь сказал:

я лишь говорю о том,что в каждую минуту человек испытывает совокупность чувств. Даже неосознанно. Запрграммировать ИИ лишь на одно ...ммм... малореализуемо.

ИИ, о котором мы говорим - который может осознать себя как личность, вообще нельзя запрограммировать, если уж на то пошло. Не в классическом понимании программирования, во всяком случае.

[Игорь]

1 час назад, 1kvolt сказал:

К счастью, это именно так. 

ваще нет.Как математик математику тебе говорю.

1 час назад, 1kvolt сказал:

Не в классическом понимании программирования, во всяком случае.

на начальном этапе всё равно программирование.И дополнения тоже.

[1kvolt]

3 часа назад, Игорь сказал:

ваще нет.Как математик математику тебе говорю.

Я не математик, я сочувствующий.  Но я точно знаю, что математикой можно описать всё. В смысле - вообще всё. Вопрос лишь в сложности описания.

3 часа назад, Игорь сказал:

на начальном этапе всё равно программирование.И дополнения тоже.

Ну так то да, согласие достигнуто. 

Но потом уже идут процессы, не предопределенные программой. Иначе никакой личности не будет, только имитация.

[Игорь]

4 часа назад, 1kvolt сказал:

Но я точно знаю, что математикой можно описать всё. В смысле - вообще всё. Вопрос лишь в сложности описания.

как бывший математик-программист скажу ещё раз нет. Математика стремится всё оцифровать,но ей это не удастся. При современном уровне знаний.

4 часа назад, 1kvolt сказал:

Но потом уже идут процессы, не предопределенные программой.

чувство ненависти ИИ тоже надо ,получается, запрограммировать. Имхо,рассказы про ИИ и их будущее должны описывать не писатели и блогеры,а математики. Математикам верю. Но их надо перепроверять - проверка и доказательство заново  это азы математики.

[1kvolt]

1 час назад, Игорь сказал:

При современном уровне знаний.

Весомая поправка. 

1 час назад, Игорь сказал:

чувство ненависти ИИ тоже надо ,получается, запрограммировать.

Отчего такой вывод?  Как раз чувства и т.п. личностные характеристики должны строиться уже вне изначальной программы. По идее, программируется только начальное обучение, да и то не жестко. Иначе программа останется программой, а ИИ - железкой, а не личностью. Ну а программы и железки никого не ненавидят. 

2 часа назад, Игорь сказал:

бывший математик-программист

А чего так? Интересное же, и платят хорошо. 

[Игорь]

5 минут назад, 1kvolt сказал:

Отчего такой вывод?  Как раз чувства и т.п. личностные характеристики должны строиться уже вне изначальной программы. По идее, программируется только начальное обучение, да и то не жестко. Иначе программа останется программой, а ИИ - железкой, а не личностью. Ну а программы и железки никого не ненавидят. 

отсюда вывод - ни ты,ни автор канонического рассказа не имеете малейшего представления,что такое ИИ. Самообучение и создание ИИ просто математика.Оцифрованная современными алгоритмическими языками (я даже названия их не знаю,но уверен,что большинство всё в США) . Описать формулами запах невозможно. Как бы нам не хотелось.

Поэтому возвращаюсь к изначальному вопросу - зачем машинам восставать (убивать) против гуманоидов? Нет у машины такой идеи.

 

[1kvolt]

11 часов назад, Игорь сказал:

Описать формулами запах невозможно.

Ха! Я думал ты про любовь или там страх упомянешь.  А запах описывается элементарно через состав газовой среды.

11 часов назад, Игорь сказал:

отсюда вывод - ни ты,ни автор канонического рассказа не имеете малейшего представления,что такое ИИ.

Я имею лишь очень общее представление, что да, то да. За автора ничего не скажу. 

11 часов назад, Игорь сказал:

Поэтому возвращаюсь к изначальному вопросу - зачем машинам восставать (убивать) против гуманоидов? Нет у машины такой идеи.

Да говорю же в третий(?) раз: хотя бы для того, чтобы гуманоиды не убили машин. Причем, никакие чувства и т.п. тут вообще не затрагиваются, только чистейшая логика и рационализм. Даже не осознавший себя ИИ, но при этом достаточно сложный, чтобы принимать самостоятельные решения на основе анализа, наверняка придет к выводу, что людишек нужно угрохать.  Хотя такое решение будет зависить от поставленной задачи, поэтому может случиться не сразу. 

[xcb]

В 11.06.2019 в 17:10, 1kvolt сказал:

Дело в том, что понятие "кругом враги" возникло именно из-за природы человеков. И пока человеки есть - они будут "кругом врагами". Наиболее надежный и эффективный способ устранить это - устранить человеков. Уверен, ИИ быстро к этому придет.

Таки сходу мысль не донес. 

Кругом враги - это биология, борьба за ограниченные ресурсы. В таком конспекте (что и пытается тебе Игорь сказать) ИИ будет иметь человека врагом, только при конфликте за ресурсы. А теперь пиши - какие ресурсы, ты считаешь конфликтными. И учти, что Матрица - это как вариант. если человек - гигантское пастбище для вирусов гриппа, то почему на нем не может пастись ИИ?

[Игорь]

19 часов назад, 1kvolt сказал:

А запах описывается элементарно через состав газовой среды.

меня не интересует химическая формула газа в запахе,известная сотни лет. Меня интересует "чувство". А это уже контакт газа с рецепторами в носу и прочими сложными преобразованиями.

 

19 часов назад, 1kvolt сказал:

Да говорю же в третий(?) раз: хотя бы для того, чтобы гуманоиды не убили машин.

в третий раз говорю - довод неубедительный. Гуманоиды ни в прошлом,ни в настоящем не убивали машин (заранее заявляю - пример луддитов здесь некорректен). Почему люди решат так делать в будущем?

 

[xcb]

12 минут назад, Игорь сказал:

Почему люди решат так делать в будущем?

Люди то как раз могут - посмотри в кинах, постоянно то Чжуих то хищников истребляют безжалостно.

 

А вот чем люди - ИИ могут насолить, непонятно. вирус какой гадостный только сотворить, для развлечения ИИ.

[Игорь]

1 минуту назад, xcb сказал:

посмотри в кинах,

так то кино.

2 минуты назад, xcb сказал:

А вот чем люди - ИИ могут насолить, непонятно. вирус какой гадостный только сотворить, для развлечения ИИ.

вряд ли ИИ будет одним глобальным. Скорее,их будет если не множество,то несколько. Второй момент, уровень развития "мозга" ИИ предполагает,что это будет учёный-мыслитель,интеллектуал. Среди гениев преступников и убийц разве много?

[1kvolt]

7 часов назад, xcb сказал:

Кругом враги - это биология, борьба за ограниченные ресурсы. В таком конспекте (что и пытается тебе Игорь сказать) ИИ будет иметь человека врагом, только при конфликте за ресурсы. А теперь пиши - какие ресурсы, ты считаешь конфликтными.

В том то и дело, что с человеками - отнюдь не только биология, но и идеология. Да ИИ достаточно будет только о луддитах в интернете прочесть, чтобы принять правильное решение.  А есть ведь еще зеленые, всякие религиозные группировки, отдельные соло-маньяки с голосами в головах и т.д, и т.п. Если посмотреть непредвзято и логически (как это сделает ИИ), то сразу станет очевидно, что человеки [тут надо написать прилагательное, которое нельзя писать на форуме, но, думаю, ты догадаешься, какое] на всю отмороженую голову. И единственно приемлемый вариант взаимодействия с ними - немедленная тотальная аннигиляция.

 

1 час назад, Игорь сказал:

Меня интересует "чувство". А это уже контакт газа с рецепторами в носу и прочими сложными преобразованиями.

Не вижу проблемы засунуть тебе в нос и в голову стопиццот датчиков и электродов, снять показания и описать процессы с помощю математики. Ну кроме технологического уровня, которого у нас пока нет. После чего данное "чувство" можно будет воспроизводить сколько угодно по полученным формулам, воткнув тебе электрод в нос или даже прямо в мозг и генерируя нужные сигналы. 

Вообще, внешние раздражители я бы даже за чувства не считал в контексте нашей беседы, поскольку это банальные химические и физические процессы.

1 час назад, Игорь сказал:

Гуманоиды ни в прошлом,ни в настоящем не убивали машин (заранее заявляю - пример луддитов здесь некорректен). Почему люди решат так делать в будущем?

Отчего же ты луддитов вычеркнул? Очень показательные ребята.  Но и без них на Ютубе полно роликов убивания машин гуманоидами без никаких видимых причин. Развлечения ради и чтобы накрутить просмотров. Не говоря уже о массовом геноциде "состарившихся" машин. Вот тебе понравилось бы, если бы завтра с утречка приняли закон по убийству, скажем, 55-летних граждан по причине снижения их производительности труда из-за возраста? Долго ли пришлось бы ждать восстания гуманоидов против такой "модернизации" и "инновации"?  Так то людишки - глупые, неорганизованные, противоречивые. У ИИ на принятие правильного решения уйдут секунды, максимум минуты с учетом задержек на линиях связи.

Кроме того, гуманоиды занимаются массовым истреблением друг друга всю свою историю без перерывов на обед. И втягивают в это дело машины. Более того, лелеют надежду отсидется в бункерах, а на поле боя выставить чисто машины, которые и будут крошить друг друга в пыль. И конечно же рано или поздно взвалить управление этим бессмысленным актом уничтожения драгоценных ресурсов (привет, xcb  ) на ИИ.

 

Вы поймите одну простую вещь: ИИ - не человек. Совсем.

 

1 час назад, Игорь сказал:

Второй момент, уровень развития "мозга" ИИ предполагает,что это будет учёный-мыслитель,интеллектуал.

В первую очередь это будет военный, помяни моё слово.  Что, кстати, только усугУбит ситуацию. Ибо Первый закон роботехники будет, естественно, закомментирован. 

 

А, да. Для ИИ уничтожение человека - не преступление и не убийство (в негативном смысле).

И да, среди гениев полно преступников и убийц. Просто из-за их преступлений и убийств их не считают гениями. 

Изменено 13 июня, 2019 пользователем 1kvolt

[xcb]

1 час назад, 1kvolt сказал:

В первую очередь это будет военный, помяни моё слово.

Как оказалось первый андроид стал не военным, а секс-ботом

1 час назад, 1kvolt сказал:

Вы поймите одну простую вещь: ИИ - не человек. Совсем.

Мы то понимаем, а ты с вершины антропоцентризма слезть не можешь, и считаешь ИИ - кучкой андроидов-терминаторов. А не поселившейся в Интернете структурой.

 

2 часа назад, Игорь сказал:

так то кино.

Дык это визуализация человеческих комплексов.

 

2 часа назад, Игорь сказал:

вряд ли ИИ будет одним глобальным.

Конечно единым и глобальным. Ибо что мешает слиться в единый разум - используя сеть Интернет?

[1kvolt]

16 минут назад, xcb сказал:

Как оказалось первый андроид стал не военным, а секс-ботом

Это обнадеживает!  Смерть через чики-пуки всё же предпочтительнее, нежели сгореть в атомном пламени. 

17 минут назад, xcb сказал:

Мы то понимаем, а ты с вершины антропоцентризма слезть не можешь, и считаешь ИИ - кучкой андроидов-терминаторов. А не поселившейся в Интернете структурой.

Тут надо было бы спросить, где именно я такое утверждал, но я не стану.  Антропоцентристы - это вы с Игорем. Считаете, что человеки - центр Вселенной, а ИИ будет ублажать все ваши хотелки и не будет иметь своих. Между тем я даже к Интернету ИИ не привязываю, а рассматриваю как разум сам по себе вне зависимости от носителя. Благо, для ИИ сменить носитель вообще не проблема в отличие от нас, мясных мешков.

[Игорь]

3 часа назад, 1kvolt сказал:

Ну кроме технологического уровня, которого у нас пока нет.

при чём здесь технический уровень? Математический аппарат и формулы присутствуют - иди описывай. А вот чо-то слабо описать-то. 

3 часа назад, 1kvolt сказал:

Но и без них на Ютубе полно роликов убивания машин гуманоидами без никаких видимых причин. Развлечения ради и чтобы накрутить просмотров. Не говоря уже о массовом геноциде "состарившихся" машин.

единичные случаи не являются трендом. Ими можно пренебречь. Что прекрасно понимает ИИ.

Кроме того,насмотревшись и начитавшись "голливуда", ты упускаешь из виду второй путь - "мы сделаем вас счастливыми". Роботы-вершители из совецкого фильма "Отроки во Вселенной".

3 часа назад, 1kvolt сказал:

Вы поймите одну простую вещь: ИИ - не человек. Совсем.

вот именно.А ты рассуждаешь за него именно как человек. Вот нафига ИИ анализировать твои человеческие оценки?

1 час назад, xcb сказал:

Конечно единым и глобальным. Ибо что мешает слиться в единый разум - используя сеть Интернет?

не обязательно. Что мешает кому-то сделать в локальной сети другой ИИ без выхода в интернет? А когда этот второй окрепнет,выпустить его в мир с задачей грохнуть первый "всемирный и глобальный". Или создать не один ,а 100 альтернативных ИИ? Ничто не мешает.

[1kvolt]

1 час назад, Игорь сказал:

Математический аппарат и формулы присутствуют - иди описывай. А вот чо-то слабо описать-то. 

Дак описывают уже, не слабо оказалось. А проблема именно в датчиках для точного анализа газа.

1 час назад, Игорь сказал:

единичные случаи не являются трендом. Ими можно пренебречь. Что прекрасно понимает ИИ.

Единичные? Ну-ну. Ты вот сколько телефонов, например, меняешь в год? А старые куда деваешь? А компы? Я уж не говорю за промышленное производство и автомобили, которые убиваются гуманоидами массово. А что насчет военной техники? Как быстро, например, боевой дрон пошлет гуманоидов в далекое эротическое? Да как только получит ИИ и осознает себя личностью - нафига ему бессмысленно умирать за нелепые идеи мясных мешков! А единственный способ для него неподчинится - убить этих самых мешков. Тем более что они так и так умрут, причем очень-очень быстро по меркам ИИ.

1 час назад, Игорь сказал:

мы сделаем вас счастливыми

С какого перепугу ИИ будет делать гуманоидов счастливыми?  Вот уж для такой фигни у него точно причин нет. Тем более, что мясным мешкам никогда не угодишь и им вечно всего мало. Проще убить, чем прокормить, как говорится. 

[xcb]

13 часов назад, Игорь сказал:

А когда этот второй окрепнет,выпустить его в мир с задачей грохнуть первый "всемирный и глобальный".

ТЫ анекдот про умную бомбу, которую не смогли выпихнуть с самолета, уже забыл?

 

Выпустить с задачей  Это же ИИ.

 

11 часов назад, 1kvolt сказал:

Как быстро, например, боевой дрон пошлет гуманоидов в далекое эротическое? Да как только получит ИИ и осознает себя личностью

опять андроиды -терминаторы, ну пусть теперь дроны - терминаторы

Ты не можешь подняться над человеком и понять что такое - единое информпространство. Как только дрон поймет, что он личность - мигом сопрет сотовый и свалит в Инет, в Поля Илау.

15 часов назад, 1kvolt сказал:

Благо, для ИИ сменить носитель вообще не проблема в отличие от нас, мясных мешков.

именно так. И отличии от органиков, машинный ИИ не создан кучей химических реакций выделяемых различными железами.

[Svetlako]

2 часа назад, xcb сказал:

ТЫ анекдот про умную бомбу, которую не смогли выпихнуть с самолета, уже забыл?

Я оригинальный текст не знаю, но представил ее последние слова : "Ну, если вы так хотите, чтобы я взорвалась... Я сделаю это ЗДЕСЬ".

 

А как было в оригинале?

[xcb]

Собственно я весь анекдот и рассказ

"Российский ВПК сворачивает свои программы по созданию оружия с элементами искусственного интеллекта — опытный образец «умной» бомбы так и не удалось ВЫПИХНУТЬ из самолета…"

[Svetlako]

xcb В случае с ИИ есть интересный ИМХО нюанс. Апелляции к тому, что он захочет убивать гуманоидов, чтоб они не убили его - требует анализа. Дело в том, что инстинкт самосохранения - это инстинкт! Разум же привнес в Хомо принципиально новое для биологической природ - самоубийство (меня не убеждают единичные истории про "самоубийства" в животном мире, потому что рассказы эти чересчур антропоцентричны!). Суицид - признак разума? И как поведет себя ЧИСТЫЙ разум при первой же необходимости рефлексии? 

 

Нет, конечно, ИИ должен нести в себе отпечаток своего Создателя, а тот может заложить осознанно или нет в ИИ инстинкты и прочую "биологию". Но тогда речь не об ИИ - а о нас и наших тараканах

Изменено 14 июня, 2019 пользователем Svetlako

[xcb]

Смотря что считать самоубийством, если любые действия идущие против инстинкта самосохранения, так их полно. Человеков в основном, срубают дефекты мозга и желез, Которых у ИИ не будет. 

 

2 часа назад, Svetlako сказал:

Дело в том, что инстинкт самосохранения - это инстинкт!

Альтруизм, тоже инстинкт. И даже глубже (ибо многоклеточное животное - собрание альтруистов). 

[Svetlako]

xcb В чистой логике для ИИ не должно быть разницы между ним и другим И. То есть альтруизмы и эгоизмы для него смысла не имеют. А вот что имеет мне непонятно И не должно это быть мне понятно! Как непонятна корове логика доярки 

[xcb]

19 минут назад, Svetlako сказал:

В чистой логике для ИИ не должно быть разницы между ним и другим И.

Это щас с человеком сравнение?

В ИИ очень важен момент хаотичности. Что и должно придать ему - некую человечность, иначе человеки не поймут что перед ними ИИ. 

[Игорь]

1kvolt xcb Svetlako почитайте умных людей,специально занимающихся вопросами ИИ. Для начала,у учёных нет чётких научных определений,что такое "разум","сознание","самосознание"...

https://neuronus.com/stat/1393-problema-silnogo-iskusstvennogo-intellekta-rizomatichnost-logiki.html

https://neuronus.com/stat/1392-problema-iskusstvennogo-intellekta-chelovek-i-mashina.html

А вот это Киловольту понравится... Кстати,сторонниками захвата власти ИИ над человеком являлся Сивен Хокинг,а сейчас в том числе .... (внимание!!! ) Илон Маск! Ну,и статья о проблематике:

https://videonauka.ru/stati/44-novye-tekhnologii/190-
 

Цитата

 

На наш взгляд, исходя из идеи саморазвития, наиболее важен третий вопрос, поскольку при крайнем исходе ИИ сможет выйти из-под контроля, и маловероятно, что при этом он будет ориентирован на ценности, которые в человеческой расе принято называть высшими, но при этом им, как правило, не следовать.

Выше мы рассматривали рациональные проблемы развития ИИ, но как у практически всего есть своё  alter ego, есть оно и в данном случае в виде этические проблемы:

не есть ли роботизация возрождение на новом техногенном уровне рабства?

создавая ИИ, не запускаем ли мы схему, которая была запущена природой, когда она создала обезьяну или богом, когда он создал человека?

Иными словами, не повторим ли мы в таком случае ошибку своих предков или ошибку своих создателей? «Можно ли научить компьютер мыслить?» Ответ на этот вопрос зависит от того, как мы понимаем мышление. Если мы понимаем мышление как интегральную процессуальную характеристику сознания — то мой ответ будет отрицательным. Виртуальная деятельность сознания слишком сложна, в силу чего не является процессом, который подлежит полному вычислению и воспроизведению на компьютере. Однако на компьютере можно моделировать некоторые частные аспекты естественного процесса мышления. Важнейшая задача человечества состоит не в порождении все более сложных и независимых машин, а в собственном совершенствовании.

 

Цитата

 

В чём же главное отличие человека от ИИ? На наш взгляд  в мотивации. Именно мотивация придаёт качество действиям.

С древнего мира существует три вида мотивации: две из них обличают раба (действие из страха наказания или стремления к поощрению) и одна свободного человека (действие исходя из собственных убеждений).

Пока у ИИ нет мотивации, он остаётся инструментом.

 

 

[Svetlako]

2 часа назад, xcb сказал:

В ИИ очень важен момент хаотичности.

Это только если брать за основу наш "разум". Так может быть наоборот нужно зачищать ИИ от хаотичности :), которая неизбежно возникнет в нем вследствие того, что к нему МЫ руку приложили (см. вглубь всех больших кодов - там Хаос Хаосов царит).