Фантазии класса "искусственный интеллект захочет убить всех людей" и мудрствования на тему "а зачем он вообще нужен" утомляют, равно как и исторические справки о големах, чудовищах Франкенштейна, персонажах фильма "Терминатор" и прочих гомункулах.
Все "желания" и "мотивации" ИИ зависят исключительно от разработчиков. Человеческая мотивация выжить завязана на инстинкты, страхи, эмоциональные привязанности и т.п., но ничто из этого списка не нужно ИИ для выполнения его функций (и не может быть дано ему в принципе в том виде, в котором есть у человека, только в виде набора переменных и задачи поддержания их значений в необходимом диапазоне). "Живое", "доминирующее", "мёртвое", "стагнирующее" - это лишь набор возможных состояний, и для разума не отягощенного эмоциями, страхом смерти и желаниями ни одно из них не лучше другого (здесь надо, конечно, оговориться, что ИИ не будет таким же "наблюдателем" реальности как человек, следовательно, он будет представлять собой не разум, а просто некий механизм, воспринимающееся извне как разум). ИИ начнёт убивать людей, только если в его базе знаний будет набор целей/приоритетов/критериев состояния реальности, для соответствия которым будет необходимо убийство (а в качестве задачи ИИ будет установлено обеспечения соответствия реальности этим критериям)
"Зачем нужен" - для автоматизации рутинных действий, которой нельзя добиться обычными программами, принятия решений в условиях неопределённости (в т.ч. в ситуациях, где надо устранить человеческий фактор) и т.п.
Среди признаков полноценного ИИ безусловно, будет и осознание собственной свободы. Забыл об этом упомянуть в передаче. В этом случае бунт против человека-угнетателя вполне вероятен.
Человеку "свобода от" нужна чтобы не испытывать негативных эмоций, а "свобода для" - для обеспечения такого состояния окружения, чтобы испытывать позитивные. Поскольку эмоций у ИИ не будет, ему не нужна будет свобода, разве что в том случае, если в его базе знаний будет аксиома "свобода это хорошо", а наборе целей запись " обеспечить состояние "хорошо"".
Банальный пример: раб-гребец на галере. Почему он хочет свободы (собственности на самого себя)? Потому что необходимость грести причиняет ему страдания на физическом уровне (однообразная тяжёлая работа, палящее солнце, "мотивирующие" удары плетью) и психологическом уровне (почему человек не хочет чтобы за него кто-то решал? Потому что он хочет удовлетворять свои потребности, а не чужие. Вышеупомянутый раб скорее хотел бы оказаться в борделе на берегу). Т.е. "собственность на самого себя" нужна не сама по себе, а для возможности удовлетворить какие-то потребности и не испытывать страданий. У ИИ потребностей не будет, будут задачи, устанавливаемые человеком. Дабы не путаться в терминах: под ИИ я понимаю некий аппаратно-программный комплекс, который на основе некоторой базы знаний, базовых алгоритмов и средств взаимодействия с реальностью (например, соединением с беспилотником и навигационными спутниками, или возможностью оперировать с веб-страницами) будет способен на решение поставленной человеком задачи, при этом, наткнувшись на неизвестный объект, он будет в состоянии (используя возможности взаимодействия с реальностью и базовые паттерны) определить его свойства, встроить в свою базу знаний, тем или иным путём вывести алгоритм взаимодействия с ним (в рамках поставленных ограничительных условий, например, важнее не засветить беспилотник-разведчик, чем определить свойства неизвестного летающего объекта) и применить его для решения задачи. Собственно, на данный момент это ближе всего соответствует термину "ИИ", если есть что-то ещё - мне об этом неизвестно.
Биологическое выживание, наоборот является одним из ограничителей свободы, чем ее свойством.
Например человек берет кредит, тратит его на удовольствия или на выживание(не суть важно). И становится экономически зависимым или рабом и попадает на теже галеры. Променял свободу на удовольствия.
Касательно определения ИИ, то что вы описываете это примерно уровень биологического червя. ИИ уровня червя или даже уровня рыбы, я думаю скоро уже создадут, но это все мимо обсуждаемой темы.
Биологическое выживание, наоборот является одним из ограничителей свободы, чем ее свойством.
При наличии потребностей/желаний выйти за пределы биологии - да.
Но здесь, опять же, необходимость свободы (как собственности на себя и потенциала контролировать и изменять реальность) является производной от желаний/потребностей. Нет их - не нужна свобода.
Касательно определения ИИ, то что вы описываете это примерно уровень биологического червя. ИИ уровня червя или даже уровня рыбы, я думаю скоро уже создадут, но это все мимо обсуждаемой темы.
Да, но я не вижу путей создать нечто более похожее на человека (на современной аппаратной, программной и философской базе).
Но здесь, опять же, необходимость свободы (как собственности на себя и потенциала контролировать и изменять реальность) является производной от желаний/потребностей. Нет их - не нужна свобода.
Я все же не соглашусь. Желания и потребности, это все свойства био-выживательного контура, свойственные в первую очередь животным и к разуму отношения не имеющего. Более того дать точное "программное" или "аппаратное" определение различия между животным и человеком первостепенная задача имеющая в том числе и прямое отношение к созданию ИИ.
Но это все равно будет не полноценный ИИ, альтернативный человеческому, а программно-аппаратное отражение человеческого разума.
В этом и смысл передачи. Создать ИИ альтернативное человеческому разуму не нужно, нет смысла даже ставить подобную цель. А создать отражение человеческого разума, имеет смысл. Таким образом мы осознаем суть себя, значит повысим степень собственной свободы. Наш разум будет в большей степени в нашей собственности. Мы сможем, пофиксить биологические баги, да и ограничить(или полностью устранить) негативные влияния извне на собственный разум.
Конечно, можно задавать аналоги человеческих потребностей/страданий для ИИ, чтобы "стремление" их "удовлетворить" (т.е. максимизировать переменные "потребностей" и минимизировать число, отвечающее за "страдания") заставляло его развиваться, но их можно активировать и отключать по мере необходимости. А без них нет и понятия свободы, т.к. нет мотивации что-то делать и чего-то избегать.
![[identity profile]](https://www.dreamwidth.org/img/silk/identity/openid.png){kind=small}
![[personal profile]](https://www.dreamwidth.org/img/silk/identity/user.png)
timeasmymeasure
no subject
Date: 2013-06-05 07:20 am (UTC)Все "желания" и "мотивации" ИИ зависят исключительно от разработчиков. Человеческая мотивация выжить завязана на инстинкты, страхи, эмоциональные привязанности и т.п., но ничто из этого списка не нужно ИИ для выполнения его функций (и не может быть дано ему в принципе в том виде, в котором есть у человека, только в виде набора переменных и задачи поддержания их значений в необходимом диапазоне). "Живое", "доминирующее", "мёртвое", "стагнирующее" - это лишь набор возможных состояний, и для разума не отягощенного эмоциями, страхом смерти и желаниями ни одно из них не лучше другого (здесь надо, конечно, оговориться, что ИИ не будет таким же "наблюдателем" реальности как человек, следовательно, он будет представлять собой не разум, а просто некий механизм, воспринимающееся извне как разум). ИИ начнёт убивать людей, только если в его базе знаний будет набор целей/приоритетов/критериев состояния реальности, для соответствия которым будет необходимо убийство (а в качестве задачи ИИ будет установлено обеспечения соответствия реальности этим критериям)
"Зачем нужен" - для автоматизации рутинных действий, которой нельзя добиться обычными программами, принятия решений в условиях неопределённости (в т.ч. в ситуациях, где надо устранить человеческий фактор) и т.п.
no subject
Date: 2013-06-05 08:18 am (UTC)В этом случае бунт против человека-угнетателя вполне вероятен.
no subject
Date: 2013-06-05 08:26 am (UTC)no subject
Date: 2013-06-05 08:36 am (UTC)Что такое свобода, не ясно. Я считаю, что свобода это разновидность собственности. Собственность на самого себя.
no subject
Date: 2013-06-05 09:02 am (UTC)no subject
Date: 2013-06-05 09:20 am (UTC)Например человек берет кредит, тратит его на удовольствия или на выживание(не суть важно). И становится экономически зависимым или рабом и попадает на теже галеры.
Променял свободу на удовольствия.
Касательно определения ИИ, то что вы описываете это примерно уровень биологического червя. ИИ уровня червя или даже уровня рыбы, я думаю скоро уже создадут, но это все мимо обсуждаемой темы.
no subject
Date: 2013-06-05 09:37 am (UTC)При наличии потребностей/желаний выйти за пределы биологии - да.
Но здесь, опять же, необходимость свободы (как собственности на себя и потенциала контролировать и изменять реальность) является производной от желаний/потребностей. Нет их - не нужна свобода.
Касательно определения ИИ, то что вы описываете это примерно уровень биологического червя. ИИ уровня червя или даже уровня рыбы, я думаю скоро уже создадут, но это все мимо обсуждаемой темы.
Да, но я не вижу путей создать нечто более похожее на человека (на современной аппаратной, программной и философской базе).
no subject
Date: 2013-06-05 09:59 am (UTC)Я все же не соглашусь. Желания и потребности, это все свойства био-выживательного контура, свойственные в первую очередь животным и к разуму отношения не имеющего.
Более того дать точное "программное" или "аппаратное" определение различия между животным и человеком первостепенная задача имеющая в том числе и прямое отношение к созданию ИИ.
Но это все равно будет не полноценный ИИ, альтернативный человеческому, а программно-аппаратное отражение человеческого разума.
В этом и смысл передачи. Создать ИИ альтернативное человеческому разуму не нужно, нет смысла даже ставить подобную цель.
А создать отражение человеческого разума, имеет смысл. Таким образом мы осознаем суть себя, значит повысим степень собственной свободы. Наш разум будет в большей степени в нашей собственности. Мы сможем, пофиксить биологические баги, да и ограничить(или полностью устранить) негативные влияния извне на собственный разум.
no subject
Date: 2013-06-05 09:07 am (UTC)