数据标注实用教程全套完整教学课件.pptx全套PPT课件数据标注实用教程第1章 数据标注概述第2章 数据的来龙去脉第3章 数据标注基础知识第4章 数据标注员的职业素养第5章 数据标注实战数据标注实用教程第一章 数据标注概述内容1.1 数据标注发展简史1.2 数据标注定义及分类1.3 数据标注的应用领域1.4 数据标注行业的运行模式1.5 数据标注行业未来发展趋势 及挑战1.1数据标注发展简史1.1.1数据标注行业的发展人工智能发展史人工智能的概念在上世纪五六十年代被正式提出图灵测试1956年在达特茅斯会议上首度提出“人工智能(AI)”概念,被誉为“人工智能的起点”从“图1?1 人工智能发展简史”时间轴上可以看到人工智能的发展经历了起起伏伏,从理论到实践,从初期在现实应用环境中使用效果不佳,到通过技术的突破,实现存储能力、计算能力的大幅提升的过程1.1数据标注发展简史数据标注的起源2007年,斯坦福大学教授李飞飞等人开始启动ImageNet项目数据标注的概念:标注是对未处理的初级数据,包括语音、图片、文本、视频等进行加工处理,并转换为机器可识别信息的过程。人工智能算法与数据标注之间的关系强人工智能 vs 弱人工智能深度学习是人工智能目前的一个重要研究领域,其主要有四种方式:监督学习、无监督学习、半监督学习、强化学习。监督学习是当前人工智能的研究重点1.1数据标注发展简史1.1.2 国内数据标注行业的发展现状 数据标注行业近几年发展迅猛,要求越来越高。市场端预计2025年市场规模将突破100亿元人民币对标注数据的需求量会更大,数据标注行业的发展前景是十分向好的人工智能算法与数据标注之间的关系目前数据标注需求量最大的五座城市分别是:北京、成都、杭州、上海、深圳供应商端分为三大类:平台数据供应商、中小数据供应商、需求方自建团队从供应商的发展来看,行业内部处于“洗牌”阶段1.2数据标注定义及分类1.2.1什么是数据标注数据标注(Data Annotation)是对文本、图像、语音、视频等待标注数据进行归类、整理、编辑、纠错、标记和批注等加工操作,为待标注数据增加标签,生成满足机器学习训练要求的机器可读数据编码的工作标签(Label)标注任务(Annotation Task)数据标注员(data labeler)标注工具(annotation tool)1.2数据标注定义及分类1.2.2 数据标注的工作特点数据标注工作特点是由数据标注项目的特点决定的,而且需要根据效果不断进行需求调整。 需具备以下能力:可迁移学习能力重复标记能力细心专注能力总结提炼能力1.2数据标注定义及分类1.2.3 数据标注的基本流程包括4个环节:数据采集:首要环节,来源于提出标注需求的人工智能公司。常通过互联网获取公开的数据集与专业数据集。数据清洗:重要的环节,对数据进行筛检,去重,并对数据集中存在的异常值与缺失值进行查缺补漏,同时平滑噪声数据,最大限度纠正数据的不一致行和不完整性。数据标注:由标注员负责标注数据,可采用分类标注、标框标注、区域标注、描点标注或其他标注方法进行。数据质检:关键环节,常见的控制质量方法:多人验证、埋题验证、标注人员状态验证、机器验证1.2数据标注定义及分类1.2.4数据标注的分类常根据待标数据类型进行分类:文本标注:主要是用于自然语言处理(Natural Language Processing,NLP),如:客服行业、金融行业、医疗行业等。其标注方式有:分词标注、词性标注、情感标注、意图识别、实体标注等。音频标注:主要用于语音识别(Automa/tags/ti/tic Speech Recognition,ASR)和语音合成(Text-To-Speech,TTS),ASR技术主要是将声音转成文字,而TTS技术主要是将文字转化为声音。目前较常见的应用场景有智能客服、电话机器人、苹果手机的Siri等。音频标注方式有语音转写、语音情感标注等。1.2数据标注定义及分类图像标注:主要给计算机视觉相关的算法提供数据集,日常能了解到的场景如人脸识别、自动驾驶、车牌识别以及目前比较火的医疗影像的识别等都会用到图像标注。标注方式有矩形框标注、多边形拉框、打点、OCR识别、语义分割、图片审核分类等。视频标注:主要是通过对视频取帧后进行图片标注,然后再进行合成训练。例如:监控视频、自动驾驶、智慧交通等。其标注方法基本和图片标注一致。这4种数据标注分类方法的概念和优缺点详见“表 1?2数据标注分类比较”。1.3 数据标注的应用领域 尽量理解标注数据的应用场景,对于标注质量有重要意义出行领域:常见的标注方式有:点标注、线标注、框标注、3D点云标注、场景语义分割、PoI(Point of Interest)标注等。安防领域:政府层面多。人脸标注、视频分割、语音采集、行人标注等是重要的数据标注应用。金融