近年来，算法决策支持工具已被引入，以支持像 Molly 这样的公共部门工作人员的决策，他们必须在不确定的条件下做出决策。这是因为许多研究表明，精算模型在预测风险方面比临床判断更准确。
算法可以访问和处理大量数据（远远超过人类思维所能处理的数据），并使用复杂的统计方法和机器学习来分析概率。
算法工具分析的信息以简单的形式呈现给公共部门工作人员 - 简报、仪表板或类似内容。它旨在通过向他们提供更客观的信息来指导他们的决策过程，希望这能最大限度地减少满足的需要。
毫不奇怪，启发式和偏见学派的成员非常支持算法决策工具；而自然主义决策社区通常不信任他们。
从满足到工艺
然而，我们必须认识到，许多算法决策工具的设计初衷是用来补充而不是取代使用这些工具的专业人士的专家判断。例如，Allegheny 家庭筛查工具的开发人员写道：
“尽管儿童保护服务风险评估专家现在普遍认为精算 富人数据 工具在预测虐待儿童的风险方面比单纯的临床判断更有效，但这些工具不能也不应该取代评估过程中的合理临床判断。”
因此，即使引入了算法工具，人类也被鼓励运用他们的专家直觉，这意味着 - 当以这种方式使用时 - 算法决策工具并不会完全消除满意度。
我将这个过程称为“人工化”——在引入算法决策工具后仍然存在的满足形式。
从满足到工艺
从满足到工艺
算法决策工具的不同使用方式
自从算法决策工具引入公共部门以来，人们已经对人工智能的技术缺陷所带来的潜在风险进行了大量的讨论和争论，例如算法偏见和算法缺乏透明度。
然而，似乎很少有人关注这样一个话题：公共部门工作人员使用的工具是否符合设计初衷？人们对这些工具有何感受？这些情感如何影响人机交互？
此外，我们应该期望算法工具在多大程度上取代人类决策中的偏见和启发式方法？
我怀疑（并将在夏季进行实地研究以验证这一假设）这些工具的使用往往并非完全按照预期进行。事实上，Molly 似乎可以通过四种方式使用算法工具来支持她的决策：（1）她可以按照预期使用该工具 - 考虑算法提供的建议并用专家直觉进行补充；（2）她可以依靠建议工具来指导她的决策，但用偏见和启发式方法补充该过程；（3）她可以忽略该工具；（4）她可以完全听从该工具。我将依次探讨每一个。
1. 按预期使用工具——“专家技巧”
示例：莫莉接到一个电话，说一个孩子已经无故缺课一周了。决策工具表明这个孩子的风险很低，但莫莉打电话给孩子的母亲，发现她在电话里表现得非常反复无常。回顾她 20 年来与家庭打交道的数千次谈话，莫莉只能想到几个父母表现如此不稳定的例子。莫莉觉得，这个孩子的父母很可能正在经历类似急性发作性精神病的情况。莫莉依靠自己的专业判断，决定不顾算法工具的建议，将案件升级。
在这里，我们看到莫莉凭借她的专业直觉诊断出一位父母可能患有急性精神病，需要立即干预。鉴于这种表现的罕见性，统计工具不太可能发现这一点。
正是出于这个原因，算法工具的设计者鼓励“专家化”。要做到这一点，公共部门组织必须向使用人工智能工具的员工强调，他们的专业判断和专业知识仍然非常重要。即使在引入人工智能工具后，也应明确鼓励员工继续在决策过程中运用他们的熟练直觉。