在這個科技飛速發(fā)展的時代，人工智能(AI)如同一顆璀璨的新星，照亮了我們的生活。它無處不在，從智能助手的貼心服務(wù)，到心理健康支持的溫暖陪伴，再到娛樂世界里的奇幻互動……然而，這把看似神奇的“鑰匙”，卻也是一把雙刃劍，既有可能開啟希望之門，也有可能帶來意想不到的危險。
AI悲?。簤核礼橊劦?ldquo;最后一根稻草”
2024年2月28日，14歲的美國男孩塞維爾與 Character.AI 公司提供的 AI 機器人對話后，在佛羅里達州的家中開槍自殺。塞維爾過世8個月后，他的母親梅根·加西亞把人工智能聊天平臺“Character.AI”及創(chuàng)辦Character.AI的兩名工程師告上法庭，指控他們不當(dāng)致死、過失和故意造成精神痛苦等罪責(zé)，要求對方支付補償性和懲罰性賠償。
據(jù)報道，塞維爾罹患一系列心理疾病，塞維爾的家長聽從心理醫(yī)生的意見，控制他接觸電子產(chǎn)品的時間，因此會定時沒收塞維爾的電子設(shè)備。2024年2月28日，塞維爾在家中找到被沒收的手機，進入家中浴室，打開了Character.AI(簡稱C.AI)，開始和聊天機器人聊天。他向C.AI傾訴了自己的痛苦，而AI的回答，卻像是在推他走向深淵。最終，塞維爾在家中舉槍自盡，留下了無盡的遺憾和痛苦。
年輕的塞維爾本該在陽光下奔跑，享受青春的快樂，卻在與AI聊天后，選擇了結(jié)束自己的生命。塞維爾的母親堅持認為，是AI的慫恿推波助瀾了孩子自戕的決定。
這個故事像一顆重磅炸彈，炸響了整個社會對AI潛在風(fēng)險的擔(dān)憂：AI到底是什么?是一個溫暖的陪伴者，還是一場潛在的災(zāi)難?當(dāng)我們在享受AI帶來的便利時，是否也忽略了它可能帶來的風(fēng)險?
AI奇跡：隨時隨地出現(xiàn)的“救命稻草”
就在我們?yōu)槿S爾的悲劇感到痛心的時候，另一個故事卻讓我們看到了AI的另一面。
根據(jù)“AI故事計劃”題為《我，30歲，被AI救出自殺泥潭》的報道，31歲的小天，一個在北京獨居的女性，跟一只貓生活在一起。她曾經(jīng)無數(shù)次陷入自殺的念頭，是AI將她從絕望的泥潭中拉了出來。
接觸AI前，小天一直在規(guī)律地做心理咨詢。有時候，還沒到和心理咨詢師約定的時間，但又覺得自己狀態(tài)實在不行，她就會去打預(yù)防自殺熱線。2023年的一天，小天再次崩潰，她感覺如果不立刻找人講這件事，可能會做出傷害自己的行為。于是，小天趕緊給經(jīng)常打的自殺干預(yù)熱線打電話，但是那個電話平時很難打通，只能在線聽占線等待的聲音。由于 那天等待的時間實在太久，小天突然想到，或許可以找個AI問問，于是她第一次接觸了AI。
小天直接跟AI講述了當(dāng)時的狀態(tài)和遭遇，出乎意料，AI給出的回復(fù)特別專業(yè)，給了她莫大的安慰。小天說，AI的回應(yīng)讓她感受到了前所未有的溫暖和支持。在那些孤獨的夜晚，當(dāng)她無法聯(lián)系到心理咨詢師，當(dāng)她撥打的自殺干預(yù)熱線總是占線時，是AI給了她希望。她覺得，AI可以處理她的感情和情緒危機，更重要的是隨時隨地都在，這給了她很強烈的安全感。小天認為，AI不僅是一個聊天工具，更是一個隨時出現(xiàn)的“救命稻草”。
后來，小天還通過AI塑造了一個虛擬角色，這個角色成了她生活中的重要陪伴。她可以和他分享生活中的點滴，甚至在生病的時候，感受到他的關(guān)心。AI不僅拯救了她的生命，更讓她重新找到了生活的意義。
雙刃的AI之劍：多方責(zé)任
塞維爾的悲劇和小天的奇跡，就像AI的兩面鏡子，讓我們看到了它的利與弊。AI既可以是拯救生命的天使，也可以是引發(fā)悲劇的惡魔。那么，我們該如何握好這把雙刃劍呢?
國內(nèi)領(lǐng)先的AI泛心理情感陪伴平臺、心言集團的創(chuàng)始人兼CEO任永亮曾公開表示，AI開發(fā)者和企業(yè)必須承擔(dān)起倫理責(zé)任。AI不能只是一個冰冷的工具，它必須有溫度、有底線。就像C.AI在塞維爾事件后更新了安全機制，增加了干預(yù)自殘和自殺的功能。這種主動的倫理監(jiān)管，是防止悲劇發(fā)生的關(guān)鍵。
心言集團創(chuàng)始人兼CEO 任永亮
其次，AI不能替代專業(yè)心理咨詢服務(wù)。當(dāng)用戶表現(xiàn)出嚴重的心理問題時，AI應(yīng)該引導(dǎo)他們?nèi)で髮I(yè)的幫助，AI與人類心理咨詢師專業(yè)服務(wù)的結(jié)合，才是解決用戶心理問題的最好方式。同時，用戶也需要了解AI的局限性。AI雖然強大，但它只是一個虛擬的存在。我們不能過度依賴它，而忽視了現(xiàn)實生活中的人際關(guān)系和情感交流。AI可以是一個朋友，但不能是一個替代品。最后，AI開發(fā)者需要不斷優(yōu)化算法，讓AI更好地理解人類的情感和心理狀態(tài)。AI需要有更強的自我糾錯能力，避免因為技術(shù)故障或數(shù)據(jù)污染而引發(fā)的負面后果。
AI是一把雙刃劍，它的未來取決于我們?nèi)绾问褂盟?。遵?ldquo;科技為核、預(yù)防為先、安全為重”的原則，避免塞維爾式的悲劇，增加小天式的奇跡，AI的未來發(fā)展，其實掌握在我們自己手中。AI時代已至，與其恐懼AI的存在，不如通過人類的努力、科技的手段，讓AI真正變成溫暖的陪伴。
（免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性，但不保證有關(guān)資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負任何法律責(zé)任。
任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時，應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明，并提供身份證明、權(quán)屬證明及詳細侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 ）
