去年的一天,素媛被理发店老板开除,原因是听力能力有限,耽误了工作,得罪了顾客。
这是“90后”小源的第39次失业。在此之前,他在餐厅做开胃菜,在工厂做皮鞋,在广告公司做招牌,在奶粉工厂装箱子。她总是不能避难,沟通困难,所以被解雇了。“我是个烫发者。因为我是聋人,所以总是把周围的人加热,扔得很远。”她用如此悲伤的文字描述了自己的内心世界。
最后,小元的第40份工作满足了她内心的渴望。——赚钱不仅仅是混饭吃,而是“作为人的基本尊严”。
她刻苦训练了一个月,学会了用模板做数据标记,成为人工智能革命浪潮背后的“数据注释员”,为企业提供图像、语音、文本等数据标记服务。“能在人工智能产业成为有用的人真是太好了。”
AI的应用越来越多,社会影响也越来越大。但是,在“人脸识别”、“自动驾驶”、“语音识别”等应用领域崛起后,核心仍然在增长,但要求更精确的数据。
离开数据谈论人工智能应用无异于“没有大米的做饭”。“数据标注”操作自然会成为将最原始的数据替换为可用于算法的数据的关键步骤,是整个AI产业的基础,也是机器认识到实际原点。
相反,“数据标注员”就是没有记录的人工智能产业幕后的隐形故事。中国有10万名全职数据标注员和100万名兼职数据标注员,不断地人工为人工智能发展提供最重要的“数据燃料”。
这100多万显示数据的人大多学历不高,但这决定了中国整个人工智能行业的发展态势。他们之间有生理缺陷,如愿望,找不到理想工作的职高学生,在工地转战的新一代农民工,还有以前在淘宝“刷刷刷刷刷”后闲下来的中年女性。
1/管道加工数据
25岁的罗雪道正在将手写体的GODER文移至印刷体字,以OCR(光学字符识别)公司——上标记的字作为后者机器训练的数据资料发送。
这件事并不容易。要知道,即使在德国,也很少有人知道这种古老的字体。但是罗雪道像流水线上的机器人一样,每秒必须准确地输入一个字。
罗雪道旁边还有一位同事将道路照片中的各种汽车、非机动车、自行车、行人贴上标签,标明行进方向和是否受阻,将——用于安保系统,也可能成为“可以过滤全世界所有人口2秒”的中国天网系统的基础。另一位同事在照片中标注汽车的可行驶区域后,将用于无人驾驶场景的训练。他要把建筑物的边缘画得一样,把静止画面中鳞次栉比的建筑物一一分割,用色块表示。
介于手写输入和图像标记之间的他们的这种职业被称为“人工智能数据标记”——。数据标注并不是一个全新的产业,1998年“海天书城”已经确立,但那时人工智能还没有兴起,数据应用也相对较少。
“2011年AI的数据标注开始出现,2015年正式开始,2017年发生了大爆炸。”一家数据显示外包公司的负责人说。
人工智能浪潮催生了这一切,相关数据显示,2017年仅北京中关村的大数据产业规模就超过了700亿元,贵阳超过了1500亿元。联合国教科文组织信息传播知识社会局主任英德拉吉特班纳地图也主张,到2030年,人工智能将为世界经济贡献16万亿美元。
对AI来说,优质数据是必不可少的,自动翻译语音识别、机场安检时的人脸识别、识别选定商品的无人商店、安全行驶的无人驾驶等需要标记的领域也在增加。
因此,和传统工厂一样,“数据标注”这一隐形产业正在迅速扩大,数据正在装配线上处理,被加工成块并应用于其他领域。
"这是整个AI产业的基础,机器认识到现实世界的原点。"京东中指的一位高级人士告诉记者,照片识别系统可以瞬间识别某个东西,语音识别系统可以瞬间读取你说的话。事实上,一张照片和一段语音素材也是后天训练的结果。
“照片标记仍然需要依靠人力”,“尽管在网络上,但标记了需要耐心和集中注意力的‘小事’,暂时需要大量人力”,“照片中包含的特性太多了。例如,在其他光线下拍摄、模糊、清晰等。”分类5000万张照片后,只有几个特性被正确标记。”
标注操作有时不像此关联标注那么简单
关于“数据显示”,上述京东大众智库楼上人士像孩子一样,做了以下形象比喻。
认识一个足球,你不能告诉它是“圆形的”、“用脚踢的”、“黑白相间网格的”,最简单最常用的办法是,找来一个真实足球摆在小孩面前,告诉他“这就是足球”,没有真球,用图片或视频也行。试过几遍就会发现,孩子就能“自然而然”地认出足球。
机器也一样,工程师想让 AI 准确识别出足球,最好办法不是用代码来描述足球,而是直接找来很多张带有足球的图片,用 AI 能读取的方式把图片、视频里的足球“标注”出来,扔进 AI 模型训练,之后它“自然而然”就获得了识别足球的能力。
和小孩不同的是,机器需要在不同场景、不同角度下反复学习,这个漫长的教授过程就是罗雪娇们在 AI 产业中的位置——标注大量用于训练机器学习模型的数据,让机器越来越像人。
3/ 一个让人崩溃的“辛苦活”
图片为简单标注方式的一种
通常而言,数据标注得越准确、数量越多,最终训练出来的模型效果就越好。
对罗雪娇而言,她必须保证给机器标注的数据达到90%以上精度(即是指标注的正确率),否则最直接的后果是机器也会跟着犯错,这对算法模型训练而言将毫无意义。
90%的精度,意味着100个点里有10个点错误就会被打回。
罗雪娇遇到过一次“让人崩溃”的经历,那是一张人物群体站立图,只要露出了头、脖子、胸口,罗雪娇就要从图片的左上角开始画矩形,框住这些动作、着装完全一致的人。重复拖动50个框后,要再放大这些带有蓝色阴影矩形框,从头到四肢标注完每个人的骨骼点。最后,600多个点密密麻麻地落在了那张图里。
这个项目让她不记得重复了多少次,“拉框要求十分精细,偏差丝毫都不行。最后无论是滴眼药水,还是冷水洗脸,拍打脸部、揉眼睛,都没有任何作用,只剩下流眼泪了。”罗雪娇说。
“有些任务图上密密麻麻的点,看两个小时以上眼睛绝对会花掉了,只有要求员工不断克服人本身的一些‘消极因素’,才能避免标错数据。”数据标注公司、BasicFinder创始人杜霖说。
其实,看似简单的操作,要达到90%的精度对大多数标注者来讲却是天方夜谭。据了解,很多兼职标注团队最高精度只能达到70%,即便是在全职、全把控情况下,很多项目只能达到50%的精度,基本上承接的每个项目都需要重复三次以上才能达到90%的精度。
但现在,越来越多的客户要求达到95%甚至97%的精细化标注。“95%以上的准确率是理想情况,但从95%提到97%所需花的成本就不再是一两倍了,可能是100 倍。”杜霖说。
每个行业人士都认为这是一个“让人崩溃的辛苦活”。提起“数据标注”四个字,2002年成立,来自上海的华院数据的首席科学家尹相志不禁苦笑:几个月前,华院数据举办过一次大数据应用比赛,在“通过卖场货架图片自动计算产品的货架占有率”这项测试中,她们拍摄了1600多张真实的货架图片作为原始数据,为了让比赛的难度不那么“变态”,她们还为选手们提供了“精细化标注”后的货架图片——也就是货架上每一包紧挨着的零食、泡面,都要延边缘仔细划分。最终,这一千多张图片的标注耗费了12个人大半个月时间,负责标注工作的组员“几近崩溃”。
另一个例子是,李飞飞创办的ImageNet,是目前世界上图像识别最大的数据库,拥有1500万张标注图片,不过大部分人不知道,这是来自167个国家的48940名工作者,花费了2年时间,清理、分类、标记了近十亿张通过互联网搜集到的图片,才得到这个有1500万张图片的数据集。
“无论国内外,情况都差不多。一旦要求质量,每个人的产出量就不会太多。熟练者平均一天可以标注40张图片,前提是只需要为图片中的物体打框、标注类别和前后关系。如果涉及到刻画建筑物边缘等复杂细节,一天标注10张已是极限。”一位数据标注行业人士说,看似简单的数据标注背后,其所耗费的时间与人力,远非一般项目可比。
在高质量数据标注不容易,同时又决定了一家人工智能公司竞争力情况下,国内外大大小小的科技公司都开始用另一种方式,来完成这样细碎的任务,以获得更细致、更准确的数据。
3/ AI时代的“富士康”
这种方式,就是外包。
实际上,无论是Google Open Image Datasets中的900万张图片,还是YouTube-8M中包含了800万段被标记的视频,这些精心标记的数据,大部分是由亚马逊劳务外包平台“Amazon Mechanical Turk”(以下简称AMT)上数十万名注册用户花费2年时间完成的。
科技网站TechRepublic的一篇文章描述称:这些分布在全球各地的50万名工人们,昼夜交替、时常待命,对数据进行手工输入、分类,区分出下一张照片中是否有“狗”,语句中的“bass”到底是低音还是鲈鱼。
文章评价称,人类变成投喂机器的流水线工人,亚马逊AMT也顺势成为AI时代的富士康。
在国内,人工智能创业公司、BAT同样采用了目前数据标注行业的主流模式——“外包”。某数据标注公司负责人就透露,BAT、商汤、旷视、云从科技这类大的人工智能公司,一年在数据上的外包支出高达数千万元。此外,学术团体、政府、银行等传统机构的需求相对较小但有不断增长的趋势。
“按照人员规模划分,现在的数据标注行业分为小型工作室(20 人左右)、中型公司以及巨头企业。”京东金融众智平台项目负责人对记者表示,而从外包方式来看,也分为“众包”和“工厂”两种模式。
众包(Crowdsourcing)平台是《连线》(Wired)杂志2006年发明的一个专业术语,用来描述一种新的商业模式,即企业利用互联网来将工作分配出去、发现创意或解决技术问题。
京东金融方面提供给本报的数据显示,2018年1月,京东金融发布国内首个聚焦人工智能领域的数据众包平台——京东众智,通过聚合拥有碎片化时间和闲暇时间的普通人,为企业提供图像、语音、文本、视频的数据标注等服务。
“百度众包”、“龙猫数据”、数据堂等同样是这个模式。去年11月,龙猫数据宣布获得3370万元A轮融资,且用户量达到百万级,为百度、腾讯、小米等数十家科技公司提供数据标注业务。数据堂则成立于2011年,并在2014年12月10日成为第一家在新三板上市的数据标注企业。
记者观察发现,无论是百度众包,还是京东众智、龙猫数据、数据堂,官网首页都有明显的 “任务简单、轻松赚钱”广告,其实质都是把任务转嫁给网民——某知名数据众包平台就据称,其拥有超过5000名数据标注专员,上十万数据标注兼职人员,单日可处理超过200万条数据,能稳定提供数据标注服务。
“亚马逊AMT也是如此,每天会发布任务给墨西哥以及印度兼职人员,但很多高精度工作是不适合众包的。”在杜霖看来,由于参与众包标注的工作者数量很多,专业背景和工作能力参差不齐,其标注质量也并非所说的那么可靠,一些任务收集到的标注内容中存在噪声甚至错误,不能直接作为正确的标注使用。
以定制为主的数据标注“工厂”模式应运而生——也就是自己经营团队,成为一个上游,对整个流程进行控制。
BasicFinder采用的正是“工厂”模式,其注册成立于2015年, 2017年3月份完成了一千多万元pre-A轮融资。目前与二十来家“数据工厂”有长期业务合作,这些数据工厂有些是参与投资,有些是深度合作,少则几十人,多则两三百人。
而具体到标记过程,杜霖表示都是流水线式的,从最前端的任务定义、采集数据,到中间的清洗、加工,以及后端的质量检测、训练迭代等全部环节分开作业,并开发了一套系统辅助人工提高效率。
算上合作的周边工厂,杜霖的公司已经有 2000 多人,他们可以同时进行 20 多个不同项目的标注。在“工厂”内部,如同传统制造加工业一样,这里的各个小组都有自己的管理者。管理者之上是项目经理、高层管理者。员工“生产”的内容会经过质检人员的核验,全部合格后才会最终交付项目方,以便保证稳定的标注效率和质量。
同样,受困于人力成本,“工厂”很多时候不得不把一些业务外包给小团队,因此在这些相对规范的机构之外,还游离着众多规模不等的“小作坊”——在京东众智负责人看来,这同样是一个短板:“小作坊没有标注工具,而工厂更多是流程化操作,缺乏合理的运营模式。”
4/ 摇身一变都做AI数据标注
外包的兴起,让数据标注员成为一个热门行业——相关数据显示,截至2018年1月,目前中国有10万的全职数据标注员,以及100万的兼职数据标注员。
“在提供无差别人力劳动这件事上,大家是没有门槛。原来干淘宝刷单的、送快递的、赋闲在家的大妈,现在也能摇身一变做AI数据标注。” 杜霖说。
无从统计那100万兼职数据标注员都来自何方,但数据标注工厂,目前多集中在贵州、河北、河南、山东、山西等地区,这和传统制造企业富士康契合——算法公司和人才多集中在北深杭等科技核心区域,而作为一个“劳动密集型”的中低收入行业,数据标注人员散落三四线城市。
在距离“大数据之都”贵阳市中心50公里的惠水县百鸟河数字小镇,有一个规模500人的“数据工场”,合作对象包括百度等AI巨头,500名数据标注员中,近一半是隔壁一家扶贫高职“盛华职业学院”的学生。
除上课外,这些不懂AI的学生们每天有大约6个小时可以工作,“易于管理、尽职尽责”是该数据工场负责人给这些学生的评价。对于当地政府和学生而言,这是一件双赢的事:学生们大多来自贫困山区,在数据加工公司兼职赚来的钱不仅足够生活,有些学生还会拿出一部分补贴家用。当地媒体《贵州日报》称,未来三年百度将在百鸟河基地完成2万小时的数据加工,直接解决1000人就业,促进惠水县每年近5000余名大学生优质就业。
作为一个劳动密集型行业,门槛并不高,几万元启动资金,就可以在四五线小城组起一个“工作室”。在河北衡水,原来在化工厂制品上班的小苏,带着原先 30 多人的销售团队转行数据标注,队员小的到 20 不到,老的超过40,共同点是都不明白什么是AI。
高中学历是小苏在招人时的最高期望——在行业中,这个招聘标准已经算是较高水平,在某些众包平台上,有的标注者只有小学文凭,在北京的全职工厂中,最高学历是大专或者中专。而在京东众智平台上,则重点强调众智工作的残疾人士比例,截至目前,在京东众智平台上从事数据标注工作的总人数已达到30000人,其中残疾人士1000人左右。
在这个行业,理想标注精度和学历没什么关系,而且操作非常简单,经过培训,谁都能做——一家数据标注公司的高层人员就表示,一个农民在标注方言语音时,可能会比不懂这种语言的大学生还好。
事实上,对发布任务的甲方公司来讲,谁来标注、学历高低、如何管理这些都不是他们需要担心的问题,成本和按时保质交付才是核心。
某数据公司的主管说,通常数据工厂需要处理的客户订单往往以万为单位。比如客户要求 6 万张图片,7 天内完成标注,理论上这个订单需要 200人左右,共同机械般工作 7 天才能完成。
但部分AI公司却过分压低预算,把项目外包给一些不靠谱的团队,工期又很短;这些团队做不完、做不了,又会把任务转包给另一些小团队,或重新找到大的数据标注公司,使质量和交期都无法保证。
这种情况下,层层外包也就出现了,“小团队只能接二手甚至是好几手的项目,一手项目就像江湖传说,听过没见过。”曾做室内装修,现在转行做AI数据标注的小何说,他们的项目都是从小公司手里接的,连发包方的名字都不知道”
“数据标注行业比较混乱,没有一个标准,低价竞争和行业不规范,导致层层外包是行业的噩梦。”京东众智平台的负责人李工说。
甚至,这还可能涉及欺诈。“我们这边刚收到的上家发来的一个数据标注任务,到公司应该是四五手资源了。公司为了节约成本让我们在网上发帖招收大量任务标注员,然后剩下的就能想象到了。”7月4日,某数据标注公司一位内部人士老柳对记者称,公司以试标题的形式要求兼职人员完成,一般都是以时间或者数量,第一次给你打回去,然后让你反复的试题,最后合格了,我们再以各种理由推脱拒绝薪酬。
“甚至,人们不会想到的是,兼职人员做过的题,我们自己改动下也能节省很多时间。”老柳说。
他们也有自己的无奈,一手的项目在谁手上,价格多高,会经历多少层级,每层有多少利润,都是谜。对小团队来说,层层外包下来,其实没什么利润了,“比如,一个拉框平均4分,一个人一天最多能做4000个,一共160元。过关率90%,再除去审核成本,再给每个标注员每天发100元左右的工资,平均下来工作室每天也就从每个人身上赚20元,公司都亏损了,还拿什么去付给兼职的呢?”
人物特写/推动AI的“螺丝钉”
1年前的秋天,18岁的小芳坐上了数据标注工厂派来接他们入职、开往河北的大巴车。同行的,还有10名在同一个加工厂工厂实习的同学。
彼时,只有中专文凭的小芳怎么也想不明白,怎么老板就看上了自己,自己也可以去做人工智能这种高大上产业相关的工作。要知道,出身农村的小芳,都是在上初中后才接触过电脑。
1年后,现在的小芳已经被老板表扬为最出色的几个员工之一。踏实干好现在的工作是她从入职以来唯一的想法,也是她改变农村贫困环境的最好方式——最近一段时间,由于工期赶得很急,小芳已经连续几个周末到公司加班,每天十多个小时盯着显示器让她倍感疲惫,但她不想停下,基础加计件的工资构成总是多劳多得。“我计划着,能拿多一些钱,好寄回去给长期腰痛的妈妈买点药,给弟弟妹妹添一件衣服。”
不过,同所有的人力密集型产业一样,人人都能在此求生的同时,收入并不高。某自动驾驶创业公司数据标注负责人经常私底下开玩笑说,与动辄几十万、甚至上百万的AI工程师相比,从事着AI数据标注的行业可谓是个“血汗工厂”,兼职员可能收入1000多元,全职的收入也不过三四千元。
通常,一件普通任务是按分、甚至是厘算的,比如在一堆不同图片中识别某人是否是同一个人,这样的工作只能按厘算。只有复杂标注图时,收入可能更高,有可能甲方出到每小时几十元,以便保质保量完成。
因此,在这个超过110万人的数据标注员军团中,人来人往,有许多人进来了,也有更多人难以忍受低收入、枯燥单调重复的工作而离开——兼职做过数据标注的小猫说,她曾接到过一个在所给图片中辨别不同角度素菜的任务,几天后,她标注了一万张图,没有一张返工,但她说自己再也不会做这个工作,因为就像“流水线上的螺丝钉”一样不断重复。
实际上,坚持留下的,往往是家庭条件并不好,想凭自己努力改变家庭和命运的人。算上加班费,小芳现在每个月能拿到3000多元,这让她很是满意了,毕竟家里父亲种地一年也不过这个数字。而且,每次回老家,当家人问起小芳的工作,她说自己是做一些人脸、骨骼点标注的“数据标注员”,家人不懂,但如果说是人工智能相关的工作,从电视上看到过这个名词家里人就会停止追问,并觉得这是一个响亮的高科技职位。
这样故事,还有很多很多,他们的梦想,则与AI这个高大上的行业相去甚远:职高学生小志从贵阳坐了四小时的大巴回到山区家中,第一件事就是将做数据标注得来的钱塞到母亲手里,他的家里父母都务农,身体也不好,家里除了房子和田,唯一像样的财产是一头牛。先后做过厨师、进过工厂的犇犇,在转行做数据标注员后,用工资给在建筑工地打工的父亲买了电动剃须刀;何军家在河南周口,打算把钱都存着娶媳妇,过年期间就要见几个相亲对象……
至于小袁,想再挣点钱后换一副助听器,现在这个,他已戴了好多年,把他不断长大的耳蜗磨出了新新旧旧的伤——在此之前,这个戴了多年的助听器,让小袁在饭店做传菜工时,因为厨房的尖锐噪音不得不关掉,最终导致他在工作中频频出错被辞退。
相关链接/常见的几种数据标注类型
1. 分类标注:就是常见的打标签。一般是从既定的标签中选择数据对应的标签,一张图就可以有很多分类/ 标签:成人、女、黄种人、长发等。对于文字,可以标注主语、谓语、宾语,名词动词等。
适用:文本、图像、语音、视频
应用:脸龄识别,情绪识别,性别识别
2. 标框标注:就是框选要检测的对象。如人脸识别,首先要先把人脸的位置确定下来。
适用:图像
应用:人脸识别,物品识别
3. 区域标注:区域标注要求更加精确。边缘可以是柔性的。如自动驾驶中的道路识别。
应用:自动驾驶
4. 描点标注:一些对于特征要求细致的应用中常常需要描点标注。人脸识别、骨骼识别等。
应用:人脸识别、骨骼识别
5. 其他标注:标注的类型除了上面几种常见,还有很多个性化的。根据不同的需求则需要不同的标注。
数据标注的过程
1. 标注标准的确定
确定好标准是保证数据质量的关键一步,要保证有个可以参照的标准。一般可以:
设置标注样例、模版。例如颜色的标准比色卡。
对于模棱两可的数据,设置统一处理方式,如可以弃用,或则统一标注。
参照的标准有时候还要考虑行业。以文本情感分析为例," 疤痕 " 一词,在心理学行业中,可能是个负面词,而在医疗行业则是一个中性词。
2. 标注形式的确定
标注形式一般由算法人员制定,例如某些文本标注,问句识别,只需要对句子进行 0 或 1 的标注。是问句就标 1,不是问句就标 0。
3. 标注工具的选择
标注的形式确定后,就是对标注工具的选择了。一般也是由算法人员提供。大公司可能会内部开发一个专门用于数据标注的可视化工具,也有使用开源的数据。
往期内容回顾
调查 | 每日分红 1%?“环球天鹰”真相揭秘
调查 | “分分彩”内幕,网络博彩的巨坑
人物 | 李想的孤独理想
人物 | 董小姐有些失败的这五年
深度 | 上市半年,B 站已经不是那个 B 站了
深度 | 羽泉难堪,朋友锒铛
1.文章《【段落标注员】深度| ai主席——新时期“数据农民工”》援引自互联网,为网友投稿收集整理,仅供学习和研究使用,内容仅代表作者本人观点,与本网站无关,侵删请点击页脚联系方式。
2.文章《【段落标注员】深度| ai主席——新时期“数据农民工”》仅供读者参考,本网站未对该内容进行证实,对其原创性、真实性、完整性、及时性不作任何保证。
相关推荐
- . 现代买票为什么带上携程保险
- . 潮阳怎么去广州南站
- . 湖南马拉河怎么样
- . 烧纸为什么到三岔路口
- . 百色为什么这么热
- . 神州租车怎么样
- . 芜湖方特哪个适合儿童
- . 护肤品保养液是什么类目
- . 早晚的护肤保养有哪些项目
- . 女孩护肤品怎么保养的最好