8.
Мы думаем лучше о тех, кого лучше знаем или о ком заботимся. Частный случай этой предвзятости называется «эффектом чирлидеров»: люди в группе кажутся нам более привлекательными, чем одиночки. Нелегко представить себе группу ИИ-чирлидеров, все же искусственному разуму больше подходит монашеское уединение. О, какие оживленные разговоры он будет вести сам с собой!
9.
Мы упрощаем факты, округляем цифры, мы «предвзяты в сторону нормальности» —то есть стараемся все новое вписать в уже существующую в нашей голове картину. Скорее всего, ИИ будут лишены этого недостатка — ведь им так нравится считать!
10.
Мы считаем, что знаем, о чем думают другие — это называется «иллюзия прозрачности». ИИ, вероятно, действительно будет знать, о чем мы думаем.
11.
Мы проецируем наши теперешние умонастроения в прошлое и будущее. На этом эффекте построены костюмные исторические сериалы, где героиня может носить римскую тунику или кринолин, но рассуждать должна как Вера Ивановна из бухгалтерии. В психологии есть понятие телескопический эффект, когда человек помнит события далекого прошлого так, как будто они произошли вчера. К этой же категории искажений относится и эффект заднего ума, которым, как известно, все мы крепки. Сложно представить себе самокритичный ИИ, а если такой и появится, сумеет ли он остановиться в своей самокритике? Если нет, вполне может начать исправлять свои косяки — ну, или нас заставит.
12.
Мы склонны переоценивать степень согласия с нами других людей. Этой склонностью людей к ложному консенсусу обожают пользоваться дипломаты, психиатры и жулики. Возможно, у нашего домашнего ИИ будет регулятор согласия.
13.
У людей есть тенденция принимать на свой личный счет обобщенный для множества вывод. На этом эффекте основана популярность гороскопов в желтой прессе. Тысячи людей читают один и тот же гороскоп и верят, что он написан именно про них. У ИИ уже есть своя сеть, почему бы через какое-то время не возникнуть и желтой прессе для ИИ.
14.
Многие верят в то, что мир устроен справедливей, чем есть на самом деле. На первый взгляд это кажется альтруизмом, но в реальности гипотеза справедливого мира не так уж безобидна: например, такие люди считают, что жертвы (бездомные, бедные) заслуживают своей участи. В фильме «Американский псих» по роману Брета Эллиса есть сцена, когда богатый брокер сначала читает бездомному лекцию о морали и нравственности, а потом жестоко режет его ножом. Страшно даже представить себе, что будет, если эту гипотезу будет разделять могущественный искусственный мозг.
ИСКАЖЕНИЯ ИЗ-ЗА БЫСТРОТЫ ДЕЙСТВИЯ
Мы связаны временем и ограниченностью информации, но не можем откладывать решение. Без способности действовать быстро перед лицом неопределенности мы бы давно исчезли как вид. Так что как только мы получаем кусочек новой информации, мы стараемся сделать все возможное, чтобы оценить, можем ли мы как-то воздействовать на ситуацию. Поэтому мы прикидываем возможное будущее и действуем исходя из этого.
15.
Мы предпочитаем простые решения сложным и двусмысленным—и это, конечно, объясняется эволюцией, отбиравшей тех, кто думает быстрее. Но не зря спешка в народном фольклоре не поощряется. «Поспешишь — людей насмешишь», «спешка нужна только при ловле блох», говорят в народе. Машинное обучение уже научило ИИ распознавать лица или речь быстрее и лучше, чем это делает человек. Но уже сегодня это приводит к серьезным ошибкам, хотя вроде бы ИИ должен быть беспристрастен.
16.
Мы предпочитаем заканчивать то, во что мы уже вложились, и высоко ценим то, что собирали сами, вне зависимости от конечного результата. Это качество еще называют эффектом ИКЕА. Тело, находящееся в движении, остается в движении, если на него ничто не воздействует, гласит первый закон Ньютона, и первый закон экономики бихевиоризма звучал бы примерно так же — если бы такая наука существовала. Этот принцип позволяет нам закончить то, за что мы взялись, несмотря на то, что причин забить на все и бросить становится все больше. В случае с ИКЕА мы закончим сборку во что бы то ни стало, согласны? Искусственный интеллект тоже ни за что не остановится и будет строить шкаф вокруг земного шара, хотя бы ради этого ему пришлось бы пустить на болты для сборки все железо планеты.