根据保险行业高管的说法，人工智能是数字健康和保健公司需要克服的最大挑战。这在Beazley的《2024年数字健康与保健报告》中有所透露，该报告指出，86%的数字健康与保健公司计划使用或增加使用人工智能来诊断或治疗患者。然而，80%的受访者担心可信度问题，78%担心偏见问题，还有79%担心知识产权被盗。此外，担忧正在增加。
全球38%的高管担心客户会抱怨治疗或建议与广告不符，或者担心其能力被不公平地代表——这一比例从2022年的24%上升到了2024年的38%。在2024年，35%的人担心网络威胁，包括勒索软件和网络钓鱼，这一比例从2022年的27%上升到了35%。Beazley全球医疗保健与特殊风险产品负责人Evan Smith表示：“企业领导者应当考虑到其公司面临的各种挑战。
例如，显而易见的是，人工智能中的深度学习算法提供了巨大益处，但同时也带来了重大风险。由于人工智能看起来像一个‘黑箱’，很难理解它是如何得出结论的，因此难以识别和纠正偏见，并完全信任人工智能的建议。我们的研究发现，许多企业没有必要的定制保险，投保人需要考虑可用的选项，并确保有适当的保障。”Beazley医疗保健索赔团队负责人Keri Marmorek补充说：“变革性技术如人工智能，带来风险和回报。
随着87%的美国数字健康与保健公司计划使用或增加使用人工智能来诊断或治疗患者，我们预计索赔量将会增加。因此，公司必须与拥有深厚的网络和医疗保健专家团队以及全面前瞻性风险视角的专业保险公司合作。”