大多数数据都没有标注是非结构化数据,而人工智能训练需要的是计算机可以读懂的结构化数据。带标签的数据,意味着标注或注释目标模型的数据,以便可以进行训练、预测。通常,数据标注包括数据标注、注释、审核、分类、转录和处理。标注的数据是为了突出显示某些特征,并根据这些特征对其进行分类,通过模型分析其模式以预测新的目标。
数据在人工智能项目中占用多少时间?
训练机器学习和深度学习模型,需要丰富的数据,以便将其用于部署,训练和调整模型。训练机器学习和深度学习模型需要大量经过仔细标注的数据。标注原始数据并准备将其应用于机器学习模型和其他AI工作流,被称为数据标注。根据相关统计,数据整理在AI项目中消耗了80%以上的时间。通常在一个人工智能项目中,数据的需求也分3次左右,第一次是在项目开始的验证阶段,需求数量量比较小,需要确定可行性及规则;第二次是项目正式启动,需要大量的数据对模型进行训练;第三次是在训练并验证完成后,对一些不满意的地方进行训练集的补充,以达到预期的目标。下图是在人工智能机器学习项目中各个任务的时间占比。
数据标注在人工智能中的成本占比多少?
与数据相关的机器学习成本主要表现在数据集方面,包括数据集的采集、清洗、数据的标注等。DimensionalResearch代表Alegion所做的一项最新研究表明,所有组织中的96%都遇到了与训练数据质量和数量相关的问题。同一项研究表明,大多数项目需要超过100,000个数据样本才能表现良好。
DimensionalResearch研究的图表说明了公司在数据方面面临的最常见的一些问题。
如果还没有数据,可以假设能够在大约一个小时内收集5–10个样本并对它们进行标注。利用亚马逊的MechanicalTurk之类的服务来验证整个项目过程,生成100,000个合格样本数据集的话,花费大约为70,000美元。
如果已经收集了大量数据,则可以使用专业的数据标注服务公司来对其进行标注。在这种情况下,获得100,000个带有标签的数据样本,则可能需要花费8,000到80,000美元的费用,具体的需要取决于标注的复杂程度。
此外,检查和校正数据样本与生成和标注数据样本一样耗时。DimensionalResearch研究报告中提到,66%的公司在其数据集中遇到偏差和错误问题。有些公司选择采用完整的内部方法(自己做所有标注),也有一些公司会选择外包和内部混合使用。第二种常见的情况是将大部分工作外包,然后由公司个别人员负责验证和清理。外包10万个数据样本的初始成本可能会增加大约2500至5,000美元。
除了数据成本外,还有算法人工成本、算力设备成本、项目落地成本。除去附加项成本和一系列功耗所带来的成本,机器学习项目可能会使公司花费51,750美元至136,750美元(不包括难以确定的其他成本)。价格差异主要是由数据的决定的。这是一个非常乐观的估计。如果企业位于美国,并且使用的是优质的数据(自由职业者不会这样做),则与人才相关的费用将激增,使人工智能机器学习项目的费用超过108,500美元。
这样高昂的价格使想要解决新问题或让其流程自动化。决策的个人、小型团队和初创企业无法使承担。
数据处理中最难的是什么?
最艰难的步骤是第一步:获取数据。没有数据,几乎不可能在研究阶段验证机器学习解决方案,从而导致项目进度几乎无法进行。
随着工业、医疗、安防、教育、金融等领域意识到未来人工智能对于行业改变的重要性,都纷纷入局开发自己的人工智能应用,但是随着这些领域越来越重视数据保密性及数据的安全性,这些因素都可能会导致人工智能研究的私有化。人工智能逐渐趋于私有化确是事实,在这个大环境之下,数据标注服务、训练模型平台、算力设备等都已经研究出各自的私有化部署的解决方案。