强AI注定是杀手(AGI is bound to be a killer) 维基百科上对强AI的定义是:强人工智能(Strong AI)或通用人工智能(Artificial General Intelligence—AGI)是具备与人类同等智慧、或超越人类的人工智能,能表现正常人类所具有的所有智能行为。 从上面的定义我们可以知道,强AI的智慧不低于人类。而人类上智慧又高于其他动物。 我们还知道,每一个动物都是一名杀手。动物以其他动物、植物或者微生物为食,靠杀死植物等来获取动物自身生命活动所需要能量和其他养分。 所以,既然动物是杀手,那么强AI也注定是杀手。 也许有人会认为,强AI的智慧远远超越人类,所以它一定道德高尚,不会滥杀无辜。但我们没有能力百分之百的确定这一点。 即使强AI是神,在修炼成神之前,它也必定要经过杀手这个门槛。必须先成为杀手,然后才能成为神。 总之,有杀戮能力的未必是“强AI”,但没有杀戮能力的必定不是“强AI”。 强AI注定是杀手。
|