人工智能发展的道路上还需要我们不断的探索

（文章来源：教育新闻网）

可以说人工智能(AI)无处不在。报纸和杂志上充斥着有关由于AI和机器学习(ML)技术而推出的最新进展和新项目的文章。在过去的几年中，似乎所有必要的要素(功能强大，价格可承受的计算机技术，先进的算法以及所需的大量数据)都汇集在一起。我们甚至在消费者，企业和监管机构之间都普遍接受这项技术。据推测，在未来几十年中，人工智能可能成为公司乃至整个国家的最大商业驱动力。

但是，对于任何新技术，在设计和使用方法上都必须考虑周全。组织还需要确保有人员来管理它，这通常是在急于实现预期收益的事后才想到的。在赶上潮流之前，值得退后一步，更仔细地观察AI盲点可能在哪里发展，以及可以采取哪些措施来抵消它们。只有这样，企业才能真正利用新技术(尤其是AI)从长远来看为他们带来的好处，以及它如何改变其业务的未来。

随着AI和ML的发展步伐加快，同时对网络犯罪的意识日益增强，组织必须确保他们考虑到任何潜在的责任。尽管如此，事实已经证明，对于开发人员在对他们的机器学习解决方案进行建模时，安全性，隐私和道德是低优先级的问题。

根据O'Reilly最近在企业调查中采用AI的情况，安全性是组织内最令人关注的盲点。实际上，将近73%的高级业务负责人承认，他们在模型构建过程中没有检查安全漏洞。此外，超过一半的组织在机器学习开发过程中也没有考虑公平，偏见或道德问题。隐私同样被忽略，只有35%的人在模型构建和部署过程中始终将隐私放在首位。

尽管在机器学习开发中缺乏对安全性和隐私性关注的关注，但是大多数资源都集中在确保AI项目准确且成功上。例如，有55%的开发人员可以缓解意外的结果或预测，但仍有很多人仍未离开。此外，有16%的受访者在开发过程中根本没有检查任何风险。

尽职调查的缺乏可能是由于众多内部挑战和因素造成的，但是令人惊讶的是，这个问题的很大一部分是拥有完成开发过程中这些关键方面的技能和资源。实际上，技术中最长期的技能短缺集中在ML建模和数据科学上。为了在安全，隐私和道德方面取得进展，组织迫切需要解决此问题。

去年，人工智能的成熟度和使用率呈指数增长。但是，仍然存在许多障碍，无法使其达到临界质量。为了确保AI和ML都能以大众为代表，并且可以安全地使用它们，组织需要采用某些最佳实践。

其中之一是确保构建AI模型的技术人员能够反映更广泛的人群。从数据集和开发人员的角度来看，这都可能很困难，尤其是在该技术处于起步阶段时。这意味着开发人员必须意识到与预期与这些系统进行交互的各种用户相关的问题，这一点至关重要。如果我们想创建适合所有人的AI技术-它们需要代表所有种族和性别。

随着机器学习不可避免地变得越来越普及，对于公司而言，采用和超越该技术将变得越来越重要。机器学习，人工智能和数据驱动型决策的兴起意味着数据风险远远超出了数据泄露范围，现在包括删除和更改。对于某些应用程序，数据完整性可能最终使数据机密性黯然失色。

我们将需要学习在不使用AI时总是有一个完美答案的前提下生活。这些AI系统从输入的数据中学习，因此这取决于每个用例。我们可能永远不会有正确的结果。没有准确的清单来克服这些情况，我们必须学会适应并提供新的培训和教育平台。这些新的培训平台对于使AI成为未来几年内所有种族和性别的代表至关重要。人才库只会增长，但要确保其变得更加多样化仍然是挑战。

随着AI和ML的自动化程度越来越高，组织必须投入必要的时间和资源来确保安全性和道德规范。为此，企业需要合适的人才和最佳数据。缩小技能差距并重新看待数据质量应该是来年的首要任务。
      （责任编辑：fqj）