护士排班要同时满足人手需求、工时上限和资质要求,是一个很复杂的安排问题。研究团队用人为中心的设计方法,做了一个辅助排班的AI原型,并请有经验的医护人员试用。他们结合访谈、问卷和眼动数据,观察人们怎样看待AI给出的预测和建议。
结果有些出人意料。AI预测里标出的不确定性经常被误读,反而让使用者的决策信心下降。AI建议的解释总体上受到欢迎,却没有明显改变决策信心,也没有显著影响人们是否采纳建议。
这说明,把“不确定”如实说出来,并不自动等于让人更明白。在普通生活里也一样,工具把风险或把握程度摆出来,如果表达方式不合直觉,可能只增加犹豫。透明本身需要设计,而不只是把信息全部摊开。
评论