让自动化更安全

作者:李峥 文章来源:MM《现代制造》 点击数:213 发布时间:2019-04-13
技术变革让安全内涵发生变化,从最初的设备安全、人身安全到数字化时代的算法安全。
让自动化更安全

3月10日,埃塞俄比亚航空公司一架波音737 MAX 8客机在飞往肯尼亚途中坠毁,机上有149名乘客和8名机组成员,作为波音737 MAX 8在半年内出现的第二起严重事故,紧随其后的全球禁飞则必然对波音公司影响深远。波音737 Max客机最初是在20世纪60年代设计的,并进行了三次现代化升级,新型737  Max飞机拥有不同于以往737机型的引擎——更强大、更高效。但由于这些新引擎在外形上比之前的版本更大,它们安装在机翼上的位置与之前的737系列略有不同。对737 Max防失速系统(MCAS系统)的数字化改造,越来越被怀疑是导致总计347人丧生的坠机事故的罪魁祸首。

自动化技术诞生之初的目的是为了减少人工,提高效率,随着技术的进步,自动化的应用也从最初的工业制造拓展到家居、交通等衣食住行的各个领域,数字化与人工智能又让我们对未来有了更多想象的空间。然而,安全问题始终应放在首位。

技术的变革也让安全的内涵发生变化,从最初的设备安全、人身安全、信息安全,到数字化时代的算法安全。专门研究专家和直观决策的心理学家格里·克莱恩(Gary Klein)总结称,“算法在决策上的广泛采用使得人们难以查纠失败的真正原因。随着人们越来越依赖于算法,其对问题的判断力和洞察力都会受到影响。这个过程形成了一个恶性循环。当我们越是习惯于通过算法做决策,对于外界环境就越是被动。”

人机协作,人是核心,而并非是人可以被机器所替代。自动化与智能化技术发展是为了帮助人类提高效率,提供更好的服务,而安全是一切的前提。在我们越来越多考虑个性化、定制化、节能与高效等诸多诉求之前,请先确保人身、设备、系统和数据的安全。