全球数治｜设计人工智能适老型应用的关键准则

在生育率持续下降和预期寿命不断延长的双重因素推动下，全球60岁及以上的人口正在快速增长，估计到2050年将超过16亿。老龄化正在世界范围内成为不可逆转的趋势。各国政府、企业、健康卫生机构等都需要为此提前做好准备。由人工智能驱动的多项新兴技术应用，如护理机器人、自动驾驶、可穿戴健康设备、智能家居等，对解决老龄化所带来的健康、居家养老、社会参与、照顾者负担等严峻挑战都能发挥积极作用，成为建设适老型社会的重要工具。然而，如果人工智能系统在设计和部署时对老年人的生理、心理特质考虑不充分，或者对各类潜在隐患防范不足，其损害又将是严重和难以逆转的。如何提供恰当、体贴又高水准的数字支持是老龄社会与数字时代共同面临的重要命题。

今年8月，世界经济论坛官网发布了由美国克莱姆森大学心理学系教授理查德·白（Richard Pak）和美国老龄化协会副总裁莲娜·克拉克-雪莉（Leanne Clark-Shirley）共同撰写的研究报告《人工智能适老技术应用的设计准则》（Designing Artificial Intelligence Technologies for Older Adults），围绕数字适老、数字包容等问题，提出了若干在规划和发展人工智能适老型应用时需要遵循的关键准则和设计要点，或可为各国谋划解决上述问题提供路径参考。

查德·白（Richard Pak）和莲娜·克拉克-雪莉（Leanne Clark-Shirley）认为，老年人因为生理上的衰老和疾病，实际上是当今社会中最需要数字服务的人。保护老年人要以尊重和正视其生命价值、激发生命活力为前提，帮助他们融入数字生活，享有数字福祉。针对人工智能适老型应用，两位作者进一步提出了14条具体应用设计准则，分别对应科技向善、平衡自主性与安全性、隐私保护、防范过度依赖人工智等重要价值取向。

以同理心扶持老年人，践行“科技向善”

一、主动向老年人阐明人工智能的潜在好处

研发机构在规划相关应用的初期阶段，就应当明确阐释人工智能将如何惠及老年人，能帮助他们解决哪些问题，同时提前评估可能出现的负面结果，制定相应预案。

二、实施以老年人为中心的设计过程

从早期的概念提出到后期的系统部署，整个应用开发过程中都应邀请老年人及其利益相关者提供反馈，以了解真实的需求和关注点。

三、将老年人数据纳入人工智能数据集

确保老年人数据在人工智能机器学习训练和测试模型中得到体现。创建能够反映老年人口多样性（包含年龄、性别、血统、残疾等特征）的数据集，以确保技术应用真正适应老年人的需要。

支持老年人使用数字技术的自主性，同时确保数据与信息安全

四、注重数字包容性

老年人是一个多样化的群体，拥有不同的身体健康状况和认知能力。在人工智能应用开发的过程中，应综合考虑来自不同地域和处于不同社会经济地位的老年人的特性，设计适应面更广、更具包容性的数字应用。

五、照顾残疾老年人口

除了遵守常见的无障碍标准外，从有身体残疾的老年人那里获得反馈对于确保人工智能系统的功效符合预期至关重要。

六、将欺骗风险降到最低

如果使用听起来像人的声音与老年人互动，就必须及时向老年人披露它是合成的声音，以尽量减少欺骗带来的有害后果。

七、制定合适的评估标准

对人工智能应用进行适时评估和改进对提升老年人的使用满意度至关重要。制定具体评估标准时应考虑技术对生活质量、孤独感和幸福感的影响程度。

严格保护老年人隐私

八、采取有效的隐私保护方法

保护隐私的具体方法至少应包括：1）只收集绝对需要的数据；2）规范数据存储和及时删除不再需要的数据；3) 如果可视系统在家庭中使用，应恰当考虑放置的具体位置，兼顾安全；4）界定可以访问数据的人员范围；5）为老年人提供保护隐私的用户设置选项。

九、及时披露被收集的数据

由于老年人并不总是了解人工智能技术的全部功能以及他们的数据是如何被使用，及时披露被收集的数据，消解老年人的担忧就显得至关重要。

十、获得老年人的知情同意

设计人工智能系统应该确保纳入帮助老年人做出知情同意决定的设置选项。这既是一系列数据收集场景的法律要求，也是建立用户信任的关键所在。

十一、防止数据滥用

对老年人的所有个人信息都应通过有效的安全保障措施加以保护，以防止信息被恶意窃取和滥用。

防范老年人对人工智能产生过度依赖

十二、为适当的信任而设计

人工智能系统无法完全消除出错的概率。当老年人在高风险场景下使用人工智能时，系统出错的后果可能会很严重。因此，设计时需要让老年人理解人工智能的运作机理，对系统的可靠性形成适当预期，建立适当信任。

十三、清楚展示人工智能的能力与局限性

老年人有可能对人工智能系统怀有过高期望。当系统能力无法满足这些期望时，就会出现不适当的使用，并导致意外的后果。因此，系统开发者需要向用户清楚展示系统的功能优势与局限性。

十四、避免老年人形成对人工智能的过度依赖

过度依赖护理机器人，甚至将其作为人与人之间互动的替代品，会损害老年人的幸福感。因此，系统的设计应兼顾老年人的感情需求和服务需要，让机器人更多承担劳动密集型的任务，以使人类护理人员更加专注于对老年人护理。

鉴于科技发展的速度不会放慢，但所有人都会变老，如何设计适应老年人需要并提供适当保护的数字应用，既是社会责任，也是商业机遇。两位作者因此强调，设计适老型人工智能应用需要来自政府、社会、技术及企业界的深度协同，一方面要设法解决老年人融入数字生活的实际困难，另一方面又要构建一个能够帮助老年人跨越数字鸿沟的良性治理框架，并对老年人进行数字赋能，实现可持续的数字包容。