1)黑客攻击
任何由人类研发出来的技术产品都无法摆脱被破解和攻击的命运,互联网如此,机器人互联网RoboEarth更会如此。作者Lore列举了一个形象的例子,黑客可能会入侵到服务器来修改家政机器人的烹饪技能,将氰化钾列为必要的食物原料,如果世界各地的机器人都学习了这个被篡改过的技能,那势必会造成一场灾难。在我们的互联网世界,最严重的黑客攻击后果仅仅是信息丢失或财产损失,不会对我们造成直接的人身伤害(科幻小说里的“雪崩”病毒除外)。但对于以照顾人类为目的RoboEarth机器人来说,即使是最轻微的黑客攻击也会导致机器人行为发生变化,从而对它所照顾的人产生危害。此外,这些机器人日复一日的将世界各地家庭的信息上传到云端数据库,假如服务器遭受黑客攻击,便会严重侵犯家庭隐私,威胁到家庭安全。
2)机器持续进化
人类深知进化的力量,RobertChambers在《Vestige of The Natural History of Creation》中提到了变化论(transmutation),认为所有物种都是从早期的简单形式发展而来;15年后达尔文在《物种起源》中提出了“物竞天择”的进化论,漫长的进化使人类成为世界的主宰(自认为),当我们看到我们亲手创造出来的机器也走上了一条进化之路,且最终目标是要取代我们成为新的主宰时,我们没有理由不感到恐慌和不安。
RoboEarth系统具有足够的灵活性来应对各种新情况,但这些优势和潜力也伴随着巨大风险,对此我们首先想到的便是“天网(skynet)”的出现。人工智能专家James Barrat表示,当所有的机器人都具备了足够的学习能力之后就变得不再依靠人类,再加上全世界的机器人都可以进行交流和联系,他们很有可能变成新的支配者。