Если машинам дана полная свобода в осуществлении их собственных решений, то невозможно сказать, к чему это приведёт, поскольку невозможно угадать, как такие машины могут себя вести. Мы только укажем, что гибель рода человеческого была бы во власти машин. Будет ли человечество когда-нибудь столь безрассудно, что передаст всю власть машинам, или же никогда не будет - спорный вопрос. Но мы не намекаем ни на то, что человечество добровольно передаст власть машинам, ни на то, что машины умышленно захватят власть. На что мы намекаем - так это на то, что человечество легко может позволить себе скатиться до положения такойзависимости от машин, что уже не будет никакого практического выбора, кроме как полного принятия всех машинных решений. В то время как общество и
проблемы, с которыми оно сталкивается,
будут становиться всё более и более сложными и всё более и более интеллектуальными будут становиться машины, люди будут позволять машинам
принимать за них больше решений,просто потому, что решения, выработанные машинами, будут
приводить к лучшим результатам, чем решения, принятые людьми.В конце концов может быть достигнута ступень, когда решения,необходимые для поддержания системы в рабочем состоянии,будут такими сложными, что люди будут неспособны к разумной выработке этих решений. На этой ступени фактически распоряжаться будут машины. Люди просто не смогут выключить машины, потому что они будут столь зависимы от них, что их выключение равнялось бы самоубийству.
Социальные закладки