​欧盟AI专家组：道德风险不可想象

欧盟委员会的AI专家组已发布了对迅速发展的技术的评估，并警告说它具有“无法想象的”道德风险。

其中一些突出的风险包括致命的自治系统，跟踪个人以及在社会中“给人得分”。

关于致命的自治系统，专家们警告说，具有认知技能的机器可以“决定在没有人工干预的情况下与谁，何时何地进行战斗”。

在跟踪个人时，专家预见到了非自愿使用的人的生物识别数据，例如“通过微表情检测或说谎评估”。

在反乌托邦系列《黑镜》中饰演公民得分之后，有些人开始想到。专家指出，评分标准必须透明且公平，分数具有挑战性

该准则已经制定了好几年，并与一个试验项目一起启动，以测试它们在实践中的工作方式。

来自欧洲各个领域的专家参加了会议，其中包括伯明翰和牛津大学的学术律师。

他们得出结论：“构建值得信任的AI系统非常重要，因为只有在技术(包括流程和技术背后的人员)是值得信赖的情况下，人类才能自信和充分地收获其收益。”

整个欧盟都希望在未来十年中每年投资200亿欧元(170亿英镑)，以弥合目前欧洲发展与亚洲和北美发展之间的差距。