August 13th, 2013

look

переговоры

88

Из статьи Е.Юдковски "Искусственный интеллект как позитивный и негативный фактор глобального риска" 2006 год.

Давайте представим, что человеку удалось создать искусственный интеллект, превосходящий человеческий. Чтобы обезопасить себя люди создают ИИ на отдельном компьютере, не подключенном к сети.

Юдковски показал, что:
Не существует надёжного способа распознать враждебность ИИ.
Невозможно удержать ИИ, значительно превосходящий человеческий, в чёрном ящике.
Невозможно обезопаситься от него, просто выключив питание.

ИИ может быть опасен даже при использовании текстового терминала – а именно, он может «уболтать» человека-оператора и побудить его выпустить ИИ в Интернет. Это может быть сделано с помощью обещаний, угроз, НЛП или предложения некой сделки. Чтобы доказать это, Юдковски провёл AI-Box Experiment (Эксперимент с ИИ в ящике). В этом эксперименте Юдковски изображал ИИ, а другой человек, который заранее честно заявил, что ни при каких обстоятельствах не разрешит ИИ покинуть ящик, общался с ним по терминалу, и Юдковски старался его (то есть от имени ИИ) убедить выпустить его из ящика. В 3 случаях из 5 люди изменили своё мнение и согласились выпустить ИИ из ящика. Реальный ИИ, вероятно, мог бы вести переговоры ещё эффективнее.
look

дизайн

Пришел интересный вопрос от журналиста из Киева

Представьте, что вы на автосалоне. Перед вами десять новых блестящих автомобилей разных марок без шильдиков и опознавательных знаков - нет ни "ноздрей" BMW, ни характерных изгибов Porsche. У всех автомобилей одинаковое количество выхлопных труб. У всех автомобилей зеркальные стекла - вы не можете рассмотреть салон. Но вы знаете, что перед вами автомобиле в диапазоне от $20 000 до $200 000. Есть ли какие-то дизайнерские штуки, по которым вы сможете отличить дорогой автомобиль от дешевого?
look

рифма

Рыба между жизнью и смертью стоит, оттого она и немая и глядит без выражения; телόк ведь и тот думает, а рыба нет – она все уже знает.

Платонов "Чевенгур"



This is a film about a man and a fish
This is a film about dramatic relationship between man and fish
The man stands between life and death
The man thinks
The horse thinks
The sheep thinks
The cow thinks
The dog thinks
The fish doesn't think
The fish is mute, expressionless
The fish doesn't think because the fish knows everything
The fish knows everything