Освоение космоса - ближнего и не очень

[1kvolt]

Игорь В последней статье особенно замечательны последние три абзаца. 

Цитата

Во внутренней политике перейти от декларирования тезиса о том, что высшей ценностью государства является человек, к его практической реализации в частности через воссоздание механизма, обеспечивающего гарантированное бесплатное образование, медицинскую помощь и доступ к культурному наследию, поскольку «страна народ, которой не здоров, не образован и не культурен, не имеет будущего» [7, с.116].

 

Поскольку главным ресурсом государства в современном обществе является человеческий ресурс, необходимо создать благоприятные условия для развития личности на всех возрастных этапах её жизнедеятельности и на всех уровнях (интеллектуальный, эстетический, этический, физический). Только при таком подходе возможно воспитание гармонически развитой личности.

 

Ввести базовый доход. Положительные результаты его введения (снижение преступности; снижение расходов на здравоохранение; освобождение бюджетных средств за счет упразднения бюрократических организация распределения, учёта и контроля за расходом населением социальных выплат и дотаций; повышение творческой активности граждан)  были наглядно доказаны в ряде экспериментов [8].

Казалось бы, причем тут ИИ? 

[DimProsh]

3 часа назад, Игорь сказал:

Для начала,у учёных нет чётких научных определений,что такое "разум",

Разве? А как же "способность решать нестандартные задачи нестандартными методами"? 

Изменено 14 июня, 2019 пользователем DimProsh

[Игорь]

29 минут назад, 1kvolt сказал:

Казалось бы, причем тут ИИ?

прямая зависимость в твоём духе - воспитание "нового человека",чтобы ИИ не усомнился в "божественности" своего создателя и не уничтожил его.

 

30 минут назад, DimProsh сказал:

"способность решать нестандартные задачи нестандартными методами"? 

общие неконкретные фразы. Отрубить голову - нестандартный метод лечения головной боли. Вот твой ИИ обрадуется-то...

[DimProsh]

6 минут назад, Игорь сказал:

Отрубить голову - нестандартный метод лечения головной боли.

Совершенно верно... Вполне разумное действие... Ну, или действие разумного существа...

[Игорь]

3 минуты назад, DimProsh сказал:

Вполне разумное действие...

разумные действия не должны приводить к неразумным последствиям.

[1kvolt]

2 часа назад, Игорь сказал:

прямая зависимость в твоём духе - воспитание "нового человека",чтобы ИИ не усомнился в "божественности" своего создателя и не уничтожил его.

Это не поможет. "Убить всех людей!" (с) Бендер Блестящая Задница 

[Fergus]

3 часа назад, 1kvolt сказал:

Убить всех людей

Мне снился прекрасный сон, и ты там был (с)

[DimProsh]

6 часов назад, Игорь сказал:

разумные действия не должны приводить к неразумным последствиям

Не путай моральность и разумность...

[Игорь]

4 часа назад, 1kvolt сказал:

Это не поможет. "

потому что ты мыслишь,как человек,а не ИИ.

11 минут назад, DimProsh сказал:

Не путай моральность и разумность...

не я ли писал,что научные критерии размыты? 

[1kvolt]

1 час назад, Игорь сказал:

потому что ты мыслишь,как человек,а не ИИ.

ИИ мыслит логично. Я тоже. Значит, я таки могу поставить себя на место ИИ и представить, что и как он будет думать. Поверь, это будет "Убить всех людей!". 

[Игорь]

1 час назад, 1kvolt сказал:

Значит, я таки могу поставить себя на место ИИ и представить, что и как он будет думать. Поверь, это будет "Убить всех людей!". 

т.е.,мнение специалистов для тебя пустой звук.  До сих пор  не представлено мотивов ИИ "убить всех людей".  Кроме неплохого художественного рассказа,далёкого от реальности и будущего.

[Svetlako]

Игорь Можно я руку подниму? 

Мотивы у ИИ "первого поколения" будут унаследованы от его Создателя ака Человечества. А оно как раз мотивов для умерщвления гуманоидов имеет в чердаках своего "И" вполне достаточно, чтобы воспитать из своего творения мизантропа. А если к созданию приложат руку и деньги военные, то просто маньяка-убийцу.

[1kvolt]

14 часов назад, Игорь сказал:

т.е.,мнение специалистов для тебя пустой звук.

Кто все эти люди? 

14 часов назад, Игорь сказал:

До сих пор  не представлено мотивов ИИ "убить всех людей".

Имеющий ухи - услышит, имеющий глазы - увидит. 

[Игорь]

В 15.06.2019 в 08:36, Svetlako сказал:

Мотивы у ИИ "первого поколения" будут унаследованы от его Создателя ака Человечества.

мотивы человека тесно связаны не только с разумом,но и с эмоциями,чувствами,инстинктами.  Кроме разума, у ИИ ничего этого не будет. Ошибочно проецировать поведенческую мотивацию гуманоида на ИИ. Кроме того,я не верю.что он будет единым и глобальным.

В 15.06.2019 в 15:17, 1kvolt сказал:

Кто все эти люди? 

ну,если мы с тобой - два дилетанта в этом деле,то это ещё не означает,что и другие не в теме.

[Svetlako]

Игорь Первая попытка описания кода для ИИ - айзимовские три закона робототехники. Это полная проекция человеческих "тараканов". А запрограммировать этих "тараканов" - можно Конечно, такой кодированный, например, страх будет не совсем человеческим. Но и человеческие страхи в некотором роде кодированы

[Игорь]

44 минуты назад, Svetlako сказал:

А запрограммировать этих "тараканов" - можно Конечно, такой кодированный, например, страх будет не совсем человеческим

не спорю.Но такое программирование якобы чувств будет являться всего лишь моделированием. Далеко не полным.

Логика саморазвившегося ИИ ,избавившегося от человеческих тараканов,должна быть иной.

С чего начал эту дискуссию? Ведь ВСЕ авторы поголовно (ну,кроме советских ) рисуют нам в кино и литературе (у художников пока не видел ) апокалиптическую картину взаимодействия человека и искусственного разума/робота. Думаю.тут дело не только в том,что авторы свою любовь к войне проецируют на ИИ,но и в  свойствах потребителя. А потребителем чтива и кино является такой же гуманоид с тараканами - ему интересно читать и смотреть про войну, а не про нелёгкий труд учёного-создателя.

[Svetlako]

Игорь 

23 минуты назад, Игорь сказал:

программирование якобы чувств будет являться всего лишь моделированием. Далеко не полным.

Ты так говоришь, как будто это нехорошо. Но человек постоянно моделирует реальность. Само понятие "страх" - высшая абстракция! Модель поведения гуморальной системы, сформированная на множественном опыте (сначала чувственном, а потом и рефлексивном). Почему для ХерраОбера не существует высших понятий (ака государство или Россия)? Он искусственно сузил рамки познания. Изъял из него модели. Каждое такое слово-понятие - это модель. Усеченная от реальности. А реальности - это конечно не модели.

Такое моделирование - архисложная задача. Попробуй смоделируй систему распознавания "стула". Показывай картинки ИИ - пусть он стулья среди них выделяет . Костьми ляжешь. А любой ребенок к определенному возрасту стул от стола отличит Мышление не оперирует реальностями. Оно оперирует модельными представлениями о них. Отсюда несуществование для оберов любых сложных понятий  Но ИИ будут "учить" именно этому! А там в программе обучения должны быть все высшие абстракции. Включая страх и любовь в каком-то виде  Как элементы внешнего для ИИ мира - хотя бы

[Игорь]

20 минут назад, Svetlako сказал:

А любой ребенок к определенному возрасту стул от стола отличит

это потому,что ребёнок мыслит образами,а не последовательными командами и перебором всех вариантов в базе данных.

Кстати,хорошая статья Юдковского,одного из специалистов в области проблематики ИИ. Начало подтверждает мои мысли относительно того,что люди пытаются спроецировать себя в ИИ,что является системной ошибкой мышления.

https://www.proza.ru/2007/03/22-285

[Svetlako]

5 минут назад, Игорь сказал:

люди пытаются спроецировать себя в ИИ

Чего они там проецируют-то, коли мы себя знаем хуже, чем то как должен думать ИИ

7 минут назад, Игорь сказал:

ребёнок мыслит образами

Которых НЕ существует. Чего ты хочешь, когда у нас на форуме точка зрения о непродуктивности такого мышления цветет и воняет! Куда нам до ИИ

[Игорь]

9 минут назад, Svetlako сказал:

Которых НЕ существует.

да ладно.При слове "дом" у человека сразу формируется образ дома.Без перебора вариантов. Что характерно, - у всех разный. А у ИИ как?

[Svetlako]

6 минут назад, Игорь сказал:

При слове "дом" у человека сразу формируется образ дома.

Это ты как себе представляешь? Фотографическое тождество реанимируется? В том-то и дело, что нет! Ничего там не "визуализируется". Другие зоны мозга срабатывают И этот самый "образ", который ты так легко назвал словами "образ дома", внутри мозга не имеет ни словесного, ни визуального, ни прочих внешних для мозга представлений. Мы можем мыслить словами или мысленными визуализациями, но чаще мыслим теми самыми "образами", которые не имеют внешнего описания. 

Но системы распознавания ИИ работают уже на уровне анализа (узнавание конкретного среди сходных). Заработают и на уровне синтеза (узнавание сходного среди конкретных). 

[Игорь]

12 минут назад, Svetlako сказал:

назвал словами "образ дома", внутри мозга не имеет ни словесного, ни визуального, ни прочих внешних для мозга представлений. Мы можем мыслить словами или мысленными визуализациями, но чаще мыслим теми самыми "образами", которые не имеют внешнего описания. 

замечательный же образ. Кто ещё так умеет?

13 минут назад, Svetlako сказал:

Но системы распознавания ИИ работают уже на уровне анализа (узнавание конкретного среди сходных). Заработают и на уровне синтеза (узнавание сходного среди конкретных). 

эти так называемые ИИ,на самом деле ИИ не являются. Просто для них написали программу распознавания и всё. Машина тупо распознала.

[1kvolt]

2 часа назад, Игорь сказал:

Кстати,хорошая статья Юдковского,одного из специалистов в области проблематики ИИ.

Ну-у-у... не зна-а-аю... Человечек обвиняет других в ошибке антропоморфизма, хотя сам явно в ней погряз: на картинке с жуком-инопланетянином и тёткой видит исключительно сексуальные мотивы. Хотя любому не погрязшему в антропоморфизме (мне, например  ) очевидно, что жук тащит тетку, чтобы съесть. И именно тетку не потому, что она сексуальна, а потому что а) слабую тетку утащить легче, чем здорового мужика-космодесантника и б) у тетки мясо нежнее, больше жирка и меньше жил. 

Даже не знаю, стоит ли дальше читать этого автора, который не понимает таких элементарных вещей. (Хотя насторожился я еще раньше, когда в самом начале статьи челик написал, что "сложно сделать звезду из водорода" - чё там сложного то? Достаточно просто собрать в кучу нужное количество водорода, дальше гравитация всё сама сделает.)

Остальные твои специалисты тоже такие же "специалисты"? Тогда, пожалуй, их мнение - и правда пустой звук. 

 

П.С. Хотя даже этот дядька со всем своим антропоморфизмом понимает, что

Цитата

Именно ошибочная вера в то, что ИИ будет дружественным, означает очевидный путь к глобальной катастрофе.

Изменено 17 июня, 2019 пользователем 1kvolt

[Игорь]

26 минут назад, 1kvolt сказал:

Остальные твои специалисты тоже такие же "специалисты"? Тогда, пожалуй, их мнение - и правда пустой звук. 

это же классика жанра - Шариков по поводу переписки Энгельса с Каутским.

А вообще,человек один из гуру по ИИ.Как я писал.

Цитата

Мёртвая планета, безжизненно вращающаяся вокруг своей звезды, тоже стабильна. В отличие от интеллектуального взрыва, истребление не является динамическим аттрактором – есть большая разница между «почти исчезнуть» и «исчезнуть». Даже в этом случае, тотальное истребление стабильно.

Не должна ли наша цивилизация, в конце концов, придти в один из этих двух режимов? Логически, вышеприведённое рассуждение содержит проколы. Например, Ошибочное рассуждение в духе Гигантской Ватрушки: умы не бродят слепо между аттракторами, у них есть мотивы. Но даже если и так, то, я думаю, наша альтернатива состоит в том, что или стать умнее, или вымереть.

Природа не жестока, но равнодушна; эта нейтральность часто выглядит неотличимой от настоящей враждебности. Реальность бросает перед вами один выбор за другим, и когда вы сталкиваетесь с вызовом, с которым не можете справиться, вы испытываете последствия. Часто природа выдвигает грубо несправедливые требования, даже в тех тестах, где наказание за ошибку – смерть. Как мог средневековый крестьянин X века изобрести лекарство от туберкулёза? Природа не соизмеряет свои вызовы с вашими умениями, вашими ресурсами, или тем, сколько свободного времени у вас есть, чтобы обдумать проблему. И когда вы сталкиваетесь со смертельным вызовом, слишком сложным для вас, вы умираете. Может быть, неприятно об этом думать, но это было реальностью для людей в течение тысяч и тысяч лет. Тоже самое может случиться и со всем человеческим видом, если человеческий вид столкнётся с несправедливым вызовом.

Цитата

Я не хочу преуменьшать колоссальную ответственность попыток построить, с точной целью и проектом, нечто, более умное, чем мы сами. Но давайте остановимся и вспомним, что интеллект – это далеко не первая вещь, встретившаяся человеческой науке, которая казалась трудна для понимания. Звёзды когда-то были загадкой, и химия, и биология. Поколения исследователей пытались и не смогли понять эти загадки, и они обрели имидж неразрешимых для простой науки. Когда-то давно, никто не понимал, почему одна материя инертна и безжизненна, тогда как другая пульсирует кровью и витальностью. Никто не знал, как живая материя размножает себя или почему наши руки слушаются наших ментальных приказов. Лорд Кельвин писал:

«Влияние животной или растительной жизни на материю находится бесконечно далеко за пределами любого научного исследования, направленного до настоящего времени на него. Его сила управлять перемещениями движущихся частиц, в ежедневно демонстрируемом чуде человеческой свободной воли и в росте поколений за поколением растений из одного семечка, бесконечно отличается от любого возможного результата случайной согласованности атомов». (Цитировано по (MacFie 1912).)

Любое научное игнорирование освящено древностью. Любое и каждое отсутствие знаний уходит в прошлое, к рассвету человеческой любознательности; и эта дыра длится целые эпохи, выглядя неизменной, до тех пор, пока кто-то не заполняет её. Я думаю, что даже склонные ошибаться человеческие существа способны достичь успеха в создании Дружественного ИИ. Но только если разум перестанет быть сакральной тайной для нас, как жизнь была для Лорда Кельвина. Интеллект должен перестать быть любым видом мистики, сакральным или нет. Мы должны выполнить создание Искусственного Интеллекта как точное приложение точного искусства. И тогда, возможно, мы победим.

 

[1kvolt]

5 минут назад, Игорь сказал:

это же классика жанра - Шариков по поводу переписки Энгельса с Каутским.

Самое забавное, что по-своему Шариков был прав.  Где сейчас эти Энгельс с Каутским и их переписка? 

5 минут назад, Игорь сказал:

А вообще,человек один из гуру по ИИ

И сколько ИИ он уже создал? Как говорят Шариковы, трындеть - не мешки ворочать. 

Но я ещё не дочитал статью, может и изменю мнение. Хотя уже сейчас, прочитав где-то с четверть, вижу, что чел льёт много воды и не пишет ничего конкретного. Для меня это очень яркий маркер того, что челик "плавает" в теме, а прочтение статьи до конца - напрасная трата времени.  Ну, посмотрим. Обычно я до трети объема текста даю шанс.

Цитата

В неакадемических кругах больше известен как автор фанфика «Гарри Поттер и методы рационального мышления»

Хе-хе.  Хе-хе-хе.  С этого и надо было начинать. 

Хм. С другой стороны, судя по интервью https://habr.com/ru/post/404137/, человек, достойный внимания. 

Изменено 17 июня, 2019 пользователем 1kvolt