И еще немного о "долине ужаса"

[Flex Ferrum]

В процессе размышлений пришел к несколько удивившему меня выводу. Интеллектуальные системы управления чем-либо (домом, бытовой техникой, и т. п.), и имеющие голосовой интерфейс, по крайней мере на первых порах не будут программироваться на проявление личностных качеств. Т. е. холодильник никогда не скажет своему хозяину "Я заказал новые продукты" или "мне требуется разморозка". Причина, как мне видится, заключается в том, что когда нечто, выглядещее неживым, начинает проявлять личностные качества, это просто напросто выносит мозг хозяину. Положение может спасти наличие антропоморфных картинок-аватаров, чтобы у человека создавалось подсознательное ощущение, что там есть кто-то, с кем происходит общение. Все-таки пока что есть устойчивая ассоциативная, что если человек общается с персонифицированной бытовой техникой, и она ему отвечает - то это признак психического расстройства.

@темы: Размыслительное, Пишем, Наблюдения

Comments

[inquisitor]

"Я заказал новые продукты" или "мне требуется разморозка"

Ну... Фразы можно строить и в страдательном залоге: "продукты заказаны", "требуется разморозка"...
У бытовой техники не такая широкая функциональность, чтобы придавать ей персонификацию...

[Flex Ferrum]

Ну... Фразы можно строить и в страдательном залоге: "продукты заказаны", "требуется разморозка"...

Я про это и говорю.

У бытовой техники не такая широкая функциональность, чтобы придавать ей персонификацию...

Ну, холодильник тут для примера. Возьми более сложный вариант, типа системы управления "умным домом".

[inquisitor]

Вот умный дом уже вполне может своим "Я" обладать. В стилистике секретаря.

[Flex Ferrum]

Вот умный дом уже вполне может своим "Я" обладать. В стилистике секретаря.

Да. Только в этом случае потребуется некоторая виртуальная персона. Представь себе - как это общаться с пустотой, и эта персонифицированная "пустота" тебе отвечает что-то осмысленное.

Вообще говоря, кадр из фильмов ужасов.

[inquisitor]

Ну почему с пустотой. Вот на корабле общение боевых постов с мостиком так и происходит... Там нет виртуальных персон.
Или разговор пилотов с диспетчерской.

[Flex Ferrum]

Вот на корабле общение боевых постов с мостиком так и происходит...

И приборы общаются с капитаном не в страдательном залоге? Что-то у меня есть сомнения.

[inquisitor]

Я к тому, что экипаж может и не увидеть ни разу капитана корабля. Всё общение вести дистанционно.
Военые приборы обычно общаются короткими кодовыми фразами. Для экономии времени.

[Flex Ferrum]

Или разговор пилотов с диспетчерской.

Ээээ! Ты не понял. И я тебя не сразу понял. Тут фишка в чём? Что пилот, общаясь с диспетчерской, что капитан, общающийся с боевым постом, знает (точно знает!), что на той стороне живой человек. Т. е. общение идёт персонифицированное, и ты, по сути, держишь в голове образ того, с кем общаешься. А в случае с виртуальными системами управления - ты точно знаешь, что на той стороне никого нет. Иначе получается креза. Ты знаешь, что общаешься с машиной, но общаешься с ней как с человеком. Но она - таки машина, а не человек, но общается с тобой, как человек. Лично мне это рвёт мозг, в случае, если машина начинает тебе осмысленно отвечать не в страдательном залоге.

Я к тому, что экипаж может и не увидеть ни разу капитана корабля.

Да, но экипаж знает, что капитан есть!

[inquisitor]

знает (точно знает!), что на той стороне живой человек. Т. е. общение идёт персонифицированное, и ты, по сути, держишь в голове образ того, с кем общаешься. А в случае с виртуальными системами управления - ты точно знаешь, что на той стороне никого нет. Иначе получается креза. Ты знаешь, что общаешься с машиной, но общаешься с ней как с человеком. Но она - таки машина, а не человек, но общается с тобой, как человек. Лично мне это рвёт мозг, в случае, если машина начинает тебе осмысленно отвечать не в страдательном залоге.

Не уверен. Мне лично абсолютно безразлично, кто с той стороны. Живой человек, машина или разумный гриб с Юпитера. Главное, чтобы инструкции были непротиворечивые и конструктивные. Иногда человек даже менее предпочтителен - мало ли, чего он там напутает... Главное ведь - суть сообщения, а не адресант. А экспертные системы бывают очень продвинутыми.

Да, но экипаж знает, что капитан есть!

Экипаж верит, что капитан есть.

[GrayNM]

Э-э, знаешь, я подозреваю, что редкая женщина откажется от удовольствия всласть посплетничать и посекретничать наедине со своей покладистой подружкой-холодильникомцей. Или стиральной машинкой. Или микроволновкой. 8)

[Flex Ferrum]

Э-э, знаешь, я подозреваю, что редкая женщина откажется от удовольствия всласть посплетничать и посекретничать наедине со своей покладистой подружкой-холодильникомцей. Или стиральной машинкой. Или микроволновкой. 8)

Я пытаюсь представить себе уровень интеллекта и объём базы знаний, заложенные в эти простые бытовые приборы, чтобы поддерживать диалог с домохозяйкой. Хотя... Впрочем... Словаря из пары десятков фраз типа "Да!", "И что?", "Да ты что!", "Сволочь!", "Как он мог!", "Все мужики - козлы!" и т. п., вполне может хватить. И обладать для этого личностью совсем необязательно. Распознавать текст хозяйки (точнее, интонации) - вполне можно в облаке.

[Flex Ferrum]

Экипаж верит, что капитан есть.

Верит или точно знает - в данном случае не столь существенно. Важна сама персонификация кэпа.

Не уверен. Мне лично абсолютно безразлично, кто с той стороны. Живой человек, машина или разумный гриб с Юпитера. Главное, чтобы инструкции были непротиворечивые и конструктивные. Иногда человек даже менее предпочтителен - мало ли, чего он там напутает... Главное ведь - суть сообщения, а не адресант. А экспертные системы бывают очень продвинутыми.

Если углубляться в эту тему, то в полный рост встаёт проблема ответственности. Если приказы отдаёт виртуальный капитан (т. е., по сути, программа) - то кто несёт за них ответственность? Кого (в случае полного ахтунга) делать крайним?

[inquisitor]

Отвечает корпорация, поставляющая эти программы. Сейчас же на самолётах стоит FADEC - автоматическая система управления двигателем. Если она отказывает, пилот лишается средств управления турбиной. Так что и ответственность на фирме-изготовителе.

[Flex Ferrum]

Что-то мне подсказывает, что автоматизированная система управления двигателем - это не совсем то же самое, что автоматизированная система управления боем. Отказ первой сродни тому, что у пилота (очень условно) перестаёт работать "педаль газа" в результате механической поломки (отказ оборудования). А вот во втором случае (раздача некорректных приказов) - это совсем, совсем другое дело. Какая-нибудь кормовая турель, управляемая человеком, получает от виртуального кэпа приказ на уничтожение объекта, уничтожает. А это может оказаться что-нибудь, что уничтожать не надо. Человек это видел. "Капитан" - нет (сбой в системе идентификации "свой-чужой", например), но приказ есть приказ. Кто виноват? Тот, кто на гашетку нажимал? Тот, кто приказ отдавал? Тот, кто обслуживает эту автоматику?

Но мы сильно отклонились от темы.

[inquisitor]

Какая-нибудь кормовая турель, управляемая человеком, получает от виртуального кэпа приказ на уничтожение объекта, уничтожает.

Такие системы давно на кораблях стоят. Последний рубеж обороны от ракет. Сбивают всё, что идёт сближающимся курсом. Управляется автоматически радаром. Конечно, общую команду на активацию даёт человек. Но потом возможностей для выбора целей уже нет.

[Flex Ferrum]

Такие системы давно на кораблях стоят. Последний рубеж обороны от ракет. Сбивают всё, что идёт сближающимся курсом. Управляется автоматически радаром. Конечно, общую команду на активацию даёт человек. Но потом возможностей для выбора целей уже нет.

Так опять же! Это не то! Понятное дело, что системы активной защиты давно и успешно используются. Я ведь про другое говорю. Когда исполнитель-человек получает приказ на уничтожение от капитана-автомата. Я бы остерёгся сравнить это с активной системой защиты. Возвращаясь к твоему примеру (что в цитате) - систему тоже активирует компьютер. Короче, сценарий СкайНета из "Терминатора".