来源：腾讯AI加速器
什么是反脆弱人工智能？
在系统思维中，“反脆弱”是一种设计，不仅可以从故障中恢复，而且在遇到故障时更加强、更有效。基于实际改善决策的因素构建 AI 系统将为反脆弱人工智能创造机会。
认知科学的研究中提到，良好的决策是：主动阐明假设、构建假设检验验证这些假设以及在利益相关者之间建立清晰的沟通渠道的产物。
许多引发人为错误的认知偏差都是上述三方面出现问题的结果。例如没有清楚地阐明假设，就将解决方案应用于不合适的环境条件；不测试假设，就无法根据不断变化的条件来调整正确的决策。
AI很容易受到不良数据的影响，因为我们过分强调了它在分类和识别方面的应用，而低估了它在建议和情境化方面的应用。然而，决策型AI又非常容易被破坏。
设计反脆弱AI非常困难，因为将算法分析的结果作为结论和作为建议，这两者之间有很的差别。而决策者，为了节精力非常有可能一股脑的将AI输出作为结论。这种想法，已经在刑事司法和领域造成了灾难性的错误。
那么在医学中，为什么AI能够提高决策质量？因为，许多诊断并没有单一的正确答案，某种症状背后可能对应多种疾病，到底患有哪种疾病，可能只是概率问题。临床医生会在头脑中建立一个决策树，其中包含他能想到的所有可能病因，并让病人做排除某些可能病因的测试。因此，医学诊断是一个“定义假设、检验测试、进一步缩小可能病因集”的循环过程，直到决策收敛。
这时候，AI决策模型的作用是提示医生将可能的疾病类型纳入他的决策树，所以尽管可能数据不佳，但患者的治果却有所改善。目前，这种AI已经在用于改善医疗专业人员之间的沟通和知识共享，或在关键时刻从患者那里获得新的相关信息。
