Feb. 16th, 2012

doldonius: (Default)
Проблема со злым AI даже не в интеллекте. Поскольку никто не знает, что это такое, будем считать, что он у вычислительных систем появится. Проблема в том, что мотивацию поработить каких-то там людишек и захватить какую-то там планету ему взять неоткуда. Вычислительная система что-то делает потому и только потому, что выполняет инструкции. Кто их дал, имел ли право, имел ли в виду именно то, что скомандовал — вопросы по отношению к железякам внешние. И никакой прирост производительности и объема памяти этого не изменит.

Так что нечего с больной головы на чипы ответственность перекладывать.