全部商品分類
２０２２年末ＣｈａｔＧＰＴ的推出，不僅成為生成式人ＡＩ發(fā)展的重要里程碑，也預(yù)示著醫(yī)療領(lǐng)域可能即將迎來一場技術(shù)革新。生成式ＡＩ技術(shù)被寄予厚望，能夠提高醫(yī)療安全和質(zhì)量、降低成本，并改善患者和臨床醫(yī)生的體驗(yàn)。然而，隨之而來的是，生成式ＡＩ可能會給患者安全帶來新的威脅。
醫(yī)療保健改進(jìn)研究所?。ǎ桑龋桑∠聦僦菐臁。桑龋伞。蹋酰悖椋幔睢。蹋澹幔穑逭偌艘粋€專家組編寫了一份報告。該專家組由亞馬遜、谷歌和微軟等大型科技公司以及哈佛醫(yī)學(xué)院、Ｌｅａｐｆｒｏｇ?。牵颍铮酰稹『汀。耍幔椋螅澹颉。校澹颍恚幔睿澹睿簦濉〉鹊念I(lǐng)導(dǎo)者組成。研究目標(biāo)是，共同確定生成式ＡＩ的實(shí)際應(yīng)用領(lǐng)域，指出潛在的威脅，并就如何最大限度地提高效益和減少傷害提出建議。
ＩＨＩ 總裁兼首席執(zhí)行官?。耍澹洌幔颉。停幔簦逯赋?，關(guān)于生成式ＡＩ將如何在我們的環(huán)境中部署，還有很多問題尚未解決。他也表示，在這項(xiàng)技術(shù)全面應(yīng)用之前，應(yīng)當(dāng)確保大家所關(guān)切的問題得到充分考慮。
從生成式ＡＩ在醫(yī)療領(lǐng)域的數(shù)百種潛在用途中，專家組選擇了“文檔支持”、“臨床決策支持”和“面向患者的聊天機(jī)器人”這三個用例進(jìn)行審查和研究，并且在報告中指出，這三個用例廣泛代表了未來幾年人工智能的預(yù)期臨床用途。
圍繞這三種用例，專家組討論了臨床中實(shí)施生成式ＡＩ的的潛在好處、風(fēng)險和挑戰(zhàn)，對緩解和監(jiān)測這些風(fēng)險的策略進(jìn)行了詳細(xì)審查，并對生成式ＡＩ對于患者安全的影響展開了評估。
一、文檔支持：“效率提升”與“更復(fù)雜的風(fēng)險”
文檔工作是臨床醫(yī)生日常任務(wù)中不可或缺的一部分，但同時也是造成職業(yè)倦怠和認(rèn)知壓力的重要原因。
生成式ＡＩ在文檔支持方面的應(yīng)用被寄予厚望，包括自動編寫病史摘要、病歷核對、環(huán)境記錄和起草文檔等等。研究表明，人工智能輔助記錄能夠顯著減輕臨床醫(yī)生的記錄負(fù)擔(dān)，解放他們的雙手，降低認(rèn)知負(fù)荷。此外，如果設(shè)計和實(shí)施得當(dāng)，生成式ＡＩ還能發(fā)現(xiàn)和解決ＥＨＲ中不準(zhǔn)確的問題，并使藥物核對等一些常見的任務(wù)實(shí)現(xiàn)標(biāo)準(zhǔn)化?！∶嫦蚧颊?，生成式ＡＩ工具還可以根據(jù)患者個人的知識水平，用他們喜歡的語言，為患者和護(hù)理人員提供可查閱的文檔，簡化醫(yī)學(xué)術(shù)語。
然而，生成式ＡＩ工具的引入也可能帶來新的工作量，例如，如果有些核對工作需要人工審核，那么將會給臨床醫(yī)生帶來更多工作量。此外，醫(yī)療系統(tǒng)可能將效率提升轉(zhuǎn)化為更高的生產(chǎn)率期望（例如看更多的病人、閱讀更多的Ｘ光片或病理切片），這反而可能增加臨床醫(yī)生的工作負(fù)擔(dān)。
對生成式ＡＩ輸出的內(nèi)容進(jìn)行人工監(jiān)督這一點(diǎn)也可能給患者帶來重大挑戰(zhàn)。專家組成員認(rèn)為，ＡＩ輸出的內(nèi)容可能在很多時候有一定的準(zhǔn)確度，但并不完美，因此最終的簽核將由人類操作員執(zhí)行，這樣的“技術(shù)”與“人工”的二元組合被廣泛采用，反而可能會由于人類在審查中的偏差，導(dǎo)致更復(fù)雜的風(fēng)險。
專家組也針對這樣的問題提出了一些潛在的解決方案，例如：對ＡＩ系統(tǒng)進(jìn)行編程，增強(qiáng)輸出的可信度；采用各種策略，以確保負(fù)責(zé)驗(yàn)證ＡＩ結(jié)果的人員能保持警惕，并順利找出ＡＩ結(jié)果的漏洞；審核臨床醫(yī)生更改ＡＩ生成內(nèi)容的頻率，給予“提示”；在設(shè)計人工智能系統(tǒng)時，應(yīng)要求臨床醫(yī)生首先進(jìn)行評估等等。
此外，專家組成員還表達(dá)了對患者自主權(quán)的擔(dān)憂，特別是普通公眾是否能在真正知情的情況下同意使用ＡＩ，包括他們的數(shù)據(jù)是否會被共享或出售。
二、臨床決策支持：提高診斷準(zhǔn)確性，但需謹(jǐn)慎
生成式ＡＩ在臨床決策支持方面的應(yīng)用，包括提供診斷支持和建議、早期檢測患者病情變化、制定潛在治療方案等。
基于生成式ＡＩ的ＣＤＳＳ（臨床決策支持系統(tǒng)）可以作為一種輔助工具，通過分析報告中的癥狀、 患者病史和檢查結(jié)果，幫助臨床醫(yī)生評估患者病例，提出潛在的診斷建議和下一步措施。許多其他潛在應(yīng)用也可促進(jìn)護(hù)士、藥劑師、治療師和其他醫(yī)療專業(yè)人員的護(hù)理工作。此外，ＣＤＳＳ 還有可能應(yīng)對基本的安全挑戰(zhàn)，如識別未跟進(jìn)的檢查，或幫助進(jìn)行藥品對賬等等，這些潛在的功能都可以改善診斷準(zhǔn)確性、節(jié)省醫(yī)生的時間并降低成本。
然而，臨床醫(yī)生對這些工具的準(zhǔn)確性和可信度仍持保留態(tài)度。歷史上，類似工具的評估并未顯示出預(yù)期的臨床醫(yī)生行為改進(jìn)效果，且存在“垃圾進(jìn)垃圾出”的問題，即輸入數(shù)據(jù)的不準(zhǔn)確性直接影響輸出結(jié)果的可靠性。此外，基于人工智能的ＣＤＳＳ的可信度因“黑箱”問題——缺乏透明度而受到質(zhì)疑。
ＡＩ本身的弱點(diǎn)，ＡＩ領(lǐng)域監(jiān)管的缺乏、以及人們對于醫(yī)療記錄本身的不準(zhǔn)確的擔(dān)憂等等，多種因素都會導(dǎo)致生成式ＡＩ準(zhǔn)確性降低?！‰m然基于 生成式ＡＩ 的?。茫模樱印】赡軙纫郧鞍姹镜摹。茫模樱印‘a(chǎn)生更可靠的結(jié)果，但一些困擾?。茫模樱印≡趯?shí)際臨床中使用的核心問題不太可能僅僅通過采用更好的算法來解決。
三、患者支持聊天機(jī)器人：改善就醫(yī)體驗(yàn)，但需確保安全
聊天機(jī)器人在其他行業(yè)的廣泛應(yīng)用，為醫(yī)療保健行業(yè)提供了新的思路。生成式ＡＩ聊天機(jī)器人可以作為數(shù)據(jù)收集器支持分診、與患者互動回復(fù)問題和疑慮，以及支持護(hù)理導(dǎo)航。
理論上，醫(yī)療系統(tǒng)采用的生成式ＡＩ解決方案，可以提供比未經(jīng)驗(yàn)證的在線資源更準(zhǔn)確、更可靠的數(shù)據(jù)。這些自動化工具可以幫忙回答醫(yī)療問題，支持處方續(xù)訂，幫助患者找到服務(wù)，幫助醫(yī)生管理電子病歷收件箱中的患者電子郵件等等。
然而，聊天機(jī)器人的使用也帶來了一系列挑戰(zhàn)，包括可能削弱患者與臨床醫(yī)生之間的信任關(guān)系；如果不進(jìn)行適當(dāng)?shù)拈_發(fā)和監(jiān)控，ＡＩ聊天機(jī)器人可能會進(jìn)行誤導(dǎo)甚至有害的對話；此外，ＡＩ聊天機(jī)器人需要證明有管理復(fù)雜醫(yī)療病例的能力、要考慮并發(fā)癥以及協(xié)調(diào)相互沖突的信息和利益；信息流和分流也是關(guān)鍵問題，如果沒有得到適當(dāng)校準(zhǔn)，聊天機(jī)器人的應(yīng)用可能會導(dǎo)致患者在及時獲得救治的問題上帶來損害。
專家組成員強(qiáng)調(diào)，醫(yī)療系統(tǒng)必須向患者披露ＡＩ聊天機(jī)器人的使用情況，以減少任何混淆，并在患者和使用該技術(shù)的醫(yī)療系統(tǒng)之間建立信任。
四、擁抱生成式ＡＩ，保持謹(jǐn)慎和懷疑
生成式ＡＩ在醫(yī)療中的應(yīng)用雖然展現(xiàn)出巨大潛力，但也面臨著一系列挑戰(zhàn)。如前文所說，首先，醫(yī)療服務(wù)的非個性化、可能產(chǎn)生不準(zhǔn)確的預(yù)測和建議、人類對技術(shù)產(chǎn)出監(jiān)督不力等問題，都需要通過確保人工智能數(shù)據(jù)集的廣泛代表性、透明化的利益沖突和采用新穎的計算方法來解決。其次，＂去臨床化＂問題，即新晉臨床醫(yī)生可能永遠(yuǎn)無法掌握資深臨床醫(yī)生的技能，也是需要積極研究和實(shí)驗(yàn)的領(lǐng)域。最后，醫(yī)療保健系統(tǒng)必須向患者披露人工智能聊天機(jī)器人的使用情況，以減少混淆，并建立信任。
在報告中，專家組成員也對生成式ＡＩ在改善患者安全方面的潛力進(jìn)行了肯定。例如，生成式ＡＩ能夠幫助匯總并檢查事故報告、護(hù)理事件和根本原因分析數(shù)據(jù)；利用數(shù)據(jù)實(shí)時識別和解決安全問題；找出長期導(dǎo)致安全問題的誘因；改進(jìn)審計跟蹤；協(xié)助重新設(shè)計工作流程；培訓(xùn)安全和質(zhì)量專業(yè)人員；以及將患者體驗(yàn)和反饋納入安全工作等。
另一方面，專家組也強(qiáng)調(diào)，生成式ＡＩ也可能造成傷害，需要以謹(jǐn)慎和懷疑的態(tài)度來看待這項(xiàng)技術(shù)，并對信任、透明度、準(zhǔn)確性以及以人為本的設(shè)計和實(shí)施展開呼吁。無論監(jiān)管層面采取什么樣的措施，在醫(yī)療環(huán)節(jié)中，這些工具提供給患者，就將會有成千上萬的使用案例和數(shù)以萬計的算法得到實(shí)施。這意味著，生成式ＡＩ是改善還是損害安全，可能更多取決于醫(yī)院、醫(yī)療系統(tǒng)和患者家中發(fā)生的情況，而不僅僅是關(guān)注監(jiān)管層面的動向。
注：文章來源于網(wǎng)絡(luò)，如有侵權(quán)，請聯(lián)系刪除
