在没有任何了解的情况下使用机器学习库有什么危险?
计算机/软件
1 267
0
该提问暂无详细描述
收藏
2021-01-09 01:27 更新 anna •  2593
共 1 个回答
高赞 时间
0

上图是一只猫的照片吧? 可Google的Inception模型却认为这是鳄梨调味酱。尽管图像就是一只猫,图像却被数字化更改,混淆了模型。 只要稍微旋转图像会使模型正确地将图像分类为猫(和动物)。 上面的图像就是所谓的对抗图像,它试图欺骗你的模型,认为该图像是你想要的东西,而不是该图像的实际含义。 我用这个例子来说明当前AI趋势的问题。 我们有许多技术可以让我们将AI / ML(而不仅仅是深度学习)用作黑盒。 真正的危险在于应用,特别是在医疗保健和国防领域。 例如,你如何说服你的癌症预测模型确实有效? 你怎么知道你的模型不易受噪音影响? 你怎么知道你的模型实际上已经了解了应该学习的内容? 如果您你无法解释该模型学到的内容,那么你将无法将它推广。

收藏
2021-01-09 01:31 更新 karry •  1803