我们需要更好地教育公众关于AI的局限性

今天的深度学习解决方案确实是神奇的，能够将我们周围世界的复杂性降低到相关的方程式，并将我们生活的模式编码到软件中。在工作中第一次看到深度学习系统几乎就像在舞台上见证魔术师一样，因为一堆算法分析了大量的训练数据，最终返回了潜在模式的数学总结。令人着迷的是，随着机器将数字方程式的精确度转化为千兆级的混乱。观察混乱降低到清晰度。同时，即使使用最精心策划的数据，这些原始相关引擎也很容易误入歧途，导致它们编码偏差和无效模式。帮助公众，

深度学习的神奇功能掩盖了其非常现实的局限性。对于普通大众来说，人工智能系统已准备好将人类本身扫除，算法取代了人类工作者和杀手机器人。政策制定者急于考虑自我意识机器的立法，无工作世界资本主义的未来以及考虑机械化精确度和速度对战时战略的影响的武器条约。媒体报道了“机器正在接管”和“机器无用”之间交替出现的令人窒息的头条新闻。事实就是所有这些立场之间的事实。

与此同时，硅谷生活在自己的回音室中，与世界隔绝，其算法正在逐步重塑。研究人员急于建立稳定的更有能力的算法，而不必停下来考虑这些进步的影响。能力比其他所有人都珍贵。

由此产生的人工智能系统本身与好莱坞的人类智能相去甚远。事实上，它们与典型家庭宠物的智慧相去甚远。

今天最先进的人工智能系统只不过是带有令人兴奋的背景故事的美化电子表格。机器可以执行迷人的客厅技巧，但其现实远没那么令人印象深刻。

正如他们的前任在四分之三个世纪前的计算革命之初所做的那样，新闻界一气呵成地宣布“思维机器”的崛起，这些思维机器将很快起来，在一场控制地球本身的史诗般的战斗中击败他们的创造者。即使没有给予好莱坞治疗，深度学习算法也被描绘成公众超人类智能，可以比任何人更快更好地了解世界。

大多数令人不安的深度学习算法通常被描述为解决社会潜在偏见的方法，“无偏见”的机器能够使判断摆脱情绪或歧视。

不幸的是，今天的人工智能系统缺乏获取广义世界知识或将他们的课程提炼成他们自己独特的世界观的能力，通过这些世界观，他们可以将新信息置于语境中。相反，他们对世界的全部了解都来自他们喂养的少量训练数据。由于缺乏可以抵消此训练数据偏差的外部知识，所得到的算法几乎没有选择，只能简单地将输入数据的偏差编码到他们自己的编程中。

然而，一旦用软件编码，我们就不再将这些模式视为偏见，而是通过数学的魔力进行清洗。有偏见的人被认为是有偏见的。有偏见的算法被认为仅仅通过在软件中编码并由无懈可击的机器执行的数学精确来表达社会真理。

由于缺乏对机器学习方式的理解，政策制定者无法制定可能使司法判决，预测性警务和面部识别等关键领域中使用的算法的审计标准化的立法。

教导公众如何在技术上和数学上像深度学习一样复杂的想法经常被认为是一个不可能的目标。实际上，要理解偏差如何被编码到算法中的基本概念，为什么系统如此脆弱以及为什么对抗性攻击如此有效并不需要数学博士学位。即使是关于机器如何学习的最高级别对话也可以帮助传达这些复杂性，并帮助政策制定者和公众对我们共同的未来进行认真的讨论。

最后，随着深度学习渗透到现代生活的每个角落，如果我们要对人工智能在社会中的作用进行必要的社会对话，我们需要有一个知情的新闻，公共和政策制定机构，可以帮助我们进行对话。我们日益自动化的未来