AI PM视角：对话机器人的算法是如何开发的？( 二 )

同时，不同业务要求的算法能力不同。算法工程师需要根据业务特性，选型相应的模型，多备几套方案，以供模型训练时使用。
模型预研的结果，通常需要做一个小型的汇报。目的是同步模型预期选型，让产品经理、AI训练师了解不同的算法模型的优劣势，以及后优化维护的不同特点。同时也收集各方的意见，做最终的模型选择。
模型预研的目的主要是降低风险，即降低模型选错的风险。因为模型是一个从搭建开始，通过数据不断地训练优化的过程。如果模型选型错误，有可能出现后续不管数据如何训练，都无法解决业务问题的情况。所以模型预研对于后续的模型训练，有着重要的意义。
三、数据准备与标注主要角色：数据标注师、算法工程师当算法需求确定后，就需要根据定义的需求，进行数据标注。这里通常指的是有监督学习的算法数据标注。数据标注的过程主要包括：数据准备、数据清洗、标注规范制定、试标数据、标注答疑、正式标注。
1）数据准备
在算法团队中，有专门的数据分析员，做相应的对话数据抽取。抽取的数据是数据标注的来源。数据抽取需要根据以下原则：

抽取的数据需包含在行业中具有代表性的数据；如行业标杆客户等。
抽取的数据需尽可能覆盖行业中多样的数据；让数据分布更加均匀，提供覆盖面广的数据分布。

2）数据清洗
抽取了数据之后，数据的结构、质量不一，需要进行数据清洗。通常会筛除吊无效的、质量不佳的数据。数据清洗可能运用的技术手段有：关键词、实体识别、无监督学习等等。目的是可清洗出质量较好的数据以供标注。
3）标注规范制定
在需求定义时，通常会给每个意图做定义，定义会明确意图A是指什么，意图B时指什么。哪些情况属于意图A，哪些情况属于意图B。标注团队首先需要明确每个意图的定义，作为标注的指南。
产品经理/AI训练师会给出一份数据标注的规范。这份规范需要标注团队leader与他们做深入的沟通与理解，以求理解透彻需求，并可实际落地至标注工作中，确保需求落地不偏差。
4）试标数据
制定了标注规范，同时拿到了已清洗的抽取数据后，就进入了试标数据环节。为什么不直接正式标注呢？因为通常标注都是大批量的，若出现标注规范理解不到位，或者标注规范本身指定得有问题，那返工将是很大的人力物力损失。
为了降低这样的风险，通常会在前期先拿一小部分数据进行试标。试标的量根据情况而定，通常控制在1-2天时间内，并需收集标注反馈，注明问题与疑惑。
试标结束后，需要召集标注同学、产品经理、AI训练师、算法工程师，召开问题同步讨论会。会议的目的是确定试标的问题的解决方案，各方达成共识。方可进入下一步骤。
5）正式标注
按照确定的且达成共识的标注规范，标注团队就进入了正式标注阶段。通常标注的数量较多，需要在标注团队中分配任务。
标注完成后，需要有标注审核员进行审核。通常为抽样审核。若不通过需打回重标。
标注结束后，须由标注团队Leader汇总标注结果，提交给算法工程师。
四、模型构建主要角色：算法工程师在接收到标注团队的标注数据后，算法工程师就需要拿这些数据，让模型运转起来。模型构建包括3个环节：模型设计、特征工程、模型训练。
1）模型设计
算法工程师会根据业务的需要，以及算法积累，进行模型设计。在这个环节中，产品经理应与算法工程师确定，在当前业务下，这个模型该不该做，我们有没有能力做这个模型。在这个阶段中，最重要的是定义模型目标变量。不同的目标变量，决定了这个模型应用的场景，以及能达到的业务预期。