第366章 第448期 人工智能也会出错 2018-09-15

昨天的领导力课程，叶云已经全部听完第一遍了，今天再结合吴军老师的观点，分享一个人工智能的负面影响。叶云想说，我们平时经常都是在说“人工智能”的好处，毕竟那是很值得憧憬的未来，但人工智能也可能会出大错，哪怕就算概率再小。叶云认为，人出一次错有可能只是做了一个决定，但“机器”如果出一次错，就可能会演变为一个重大决策，主要举以下两个例子说说。第一，比如此前IBM的智能机器人“沃森”，就给患者开错药了，给有出血症的癌症患者开出了易出血的药。全世界现在有200多家医疗机构都在使用沃森，一旦机器程序出错，那结果就可能会导致出现成批错误，最终造成大错。第二，再比如人们在设计计算机操作股票时，为保证委托人能够立即止损，会瞬间抛售掉手中的股票，这种操作就可能会触发另一台计算机的止损条件，导致更多的抛售，于是雪崩式股灾就这样出现了。叶云还想说，一个决定只能影响到一件或几件事情，影响范围较小，而一个决策则就会影响到一批事情了。虽然，第一台机器在做决定的时候，还可能只是一个决定，但一旦发生“联动反应”，那就可能造成“灾难性”的后果了。