李林编译整理量子位出品

年，黑人兄弟JackyAlciné震惊地发现，他们被Google图像识别算法歧视了：GooglePhotos竟然把他的黑人朋友分类成了“大猩猩”！

Google立刻同表震惊，并迅速道歉承诺整改。

到现在，两年半过去了，Google整改效果如何呢？《连线》杂志说，并没有真的改正错误，只是……为图像识别算法去掉了“大猩猩gorilla”这个类别。

很好，再也没有黑人兄弟姐妹会被认成大猩猩了。不过，大猩猩也不会被认作大猩猩了。GooglePhotos的图像识别算法，根本就不知道有大猩猩这个物种存在。

《连线》对GooglePhotos做了一系列实验，收集了4万张动物图片让它识别。他们发现，Google的算法可以认出不少灵长类动物，比如狒狒、长臂猿、狨猴、红毛猩猩都没问题，但是却认不出大猩猩和黑猩猩。

这些大猩猩、黑猩猩的照片，有的被认作“树林”、“丛林”，有的被打上了“动物园”的标签。

另外，GooglePhotos也认不出“blackman/woman/person”。

Google承认，在年的识别错误发生之后，从图片识别的标签中删掉了“大猩猩”，现在“黑猩猩”和“猴子”也被屏蔽了。Google在发给《连线》的邮件中解释说：“图片标签技术仍处于早期，很不幸，它离完美还差得远。”

不过，这种限制仅用于GooglePhotos，而CloudVisionAPI、GoogleAssistant等其他应用没有受到影响。

作为一家站在AI前沿的公司，Google两年多还没真正解决的这个问题，似乎很奇怪，但也折射出了机器学习技术的一个问题：即使是最好的算法，也不具备常识，不理解抽象概念，结果就是，机器学习工程师将自己的算法用在现实世界中之时，必须考虑训练数据中遇不到的极端情况。

—完—

加入社群

量子位AI社群13群开始招募啦，欢迎对AI感兴趣的同学，加小助手入群；

此外，量子位专业细分群(自动驾驶、CV、NLP、机器学习等)正在招募，面向正在从事相关领域的工程师及研究人员。

进群请加小助手，并务必备注相应群的关键词~通过审核后我们将邀请进群。（专业群审核较严，敬请谅解）

诚挚招聘

量子位正在招募编辑/记者，工作地点在北京中关村。期待有才气、有热情的同学加入我们！相关细节，请在量子位对话界面，回复“招聘”两个字。

量子位QbitAI·头条号签约作者

追踪AI技术和产品新动态