嵌入式机器学习 - 学习笔记1.1.2 - 机器学习的局限性与伦理
1. 本章学习目标
学完本章后,你应该能够理解:
-
为什么机器学习既可以被用于有益场景,也可能被用于有害场景。
-
数据偏差 Bias 如何影响模型表现,以及为什么“训练数据代表性”非常重要。
-
AI / ML 系统常见的伦理风险,包括隐私泄露、数据安全、算法偏见、黑箱模型、能源消耗、过度宣传和责任归属。
-
Trustworthy AI,可信 AI,为什么需要同时满足合法 Lawful、伦理 Ethical、稳健 Robust 三个方面。
-
欧盟可信 AI 指南提出的七项关键要求。
-
Responsible AI Licenses,RAIL,负责任 AI 许可证的基本作用。
-
Edge Impulse 等 TinyML 平台在产品开发中涉及的使用限制、数据合规和责任问题。
-
如何把本章内容迁移到 EEG、ECG、EMG、PPG、HRV、GSR / EDA 等生理信号 TinyML 项目中。
2. 本章内容导读
本章讨论机器学习和人工智能中的伦理问题。课程先通过一个很有趣的万圣节“语音激活南瓜”案例说明:即使开发者本意是做一个好玩的项目,如果训练数据不包含目标用户群体,也会导致模型产生偏差。随后,Alex 从更宏观的角度解释 AI 的伦理风险,包括隐私泄露、数据安全、能源消耗、算法黑箱、历史偏见、社会歧视、AI 过度宣传和责任归属。最后,本章介绍了可信 AI 的基本框架、欧盟可信 AI 七项要求、Responsible AI Licenses,以及 Edge Impulse 等平台对 AI 使用场景的限制。对于 TinyML 项目来说,本章提醒我们:模型部署到设备端之前,不能只看准确率,还要考虑数据是否公平、系统是否安全、输出是否可解释、应用是否合规,以及出现问题时谁负责。
3. 正文笔记
3.1 机器学习不是天然“善”的工具
任何技术都可能被用于好的目的,也可能被用于坏的目的,机器学习也不例外。一个模型可以用来帮助医生辅助分析影像,也可以被滥用于监控、歧视、诈骗或生成虚假信息。更麻烦的是,即使开发者主观上想做好事,模型也可能因为数据、算法或应用场景设计不当而造成意外伤害。
本章开头的观点非常重要:
机器学习可以被用于善,也可以被用于恶,
还可能在开发者没有意识到的情况下,
因为数据偏差、隐私泄露或模型误判造成伤害。
这对 TinyML 尤其关键。TinyML 模型通常部署在嵌入式设备、传感器节点、可穿戴设备和边缘设备上,它们会直接接触真实世界的数据。如果这些设备采集的是语音、图像、位置信息或生理信号,那么伦理问题就不是“附加题”,而是项目设计的一部分。
3.2 语音激活南瓜:一个看似搞笑但很典型的数据偏差案例
主讲人 Shawn Hymel 分享了一个个人项目:2020 年万圣节,他做了一个 voice activated pumpkin,语音激活南瓜。
他的想法很简单:
孩子来到门口
→ 喊出 “trick or treat”
→ 南瓜识别到关键词
→ 南瓜亮灯并发出笑声
→ 给孩子一个惊喜
从 TinyML 项目角度看,这其实是一个典型的关键词识别项目:
麦克风采集音频
→ 提取音频特征
→ 训练关键词识别模型
→ 部署到嵌入式设备
→ 本地实时推理
但实际运行时,这个项目翻车了。孩子们喊 “trick or treat” 时,南瓜没有反应。后来 Shawn 发现,问题出在训练数据上:他只采集了成年男性和成年女性说 “trick or treat” 的数据,却没有采集儿童声音。
也就是说,模型学到的是:
成年人的 “trick or treat”
而不是:
目标用户,也就是儿童的 “trick or treat”
最后只有当孩子们故意压低声音、模仿成年人说话时,南瓜才会被触发。
这个例子很有趣,但背后的问题非常严肃:模型的表现取决于训练数据是否覆盖真实使用场景。
3.3 什么是数据偏差 Bias?
Bias,偏差,在机器学习中可以理解为:训练数据、标签、采样方式或算法设计让模型更偏向某些群体、场景或结果,从而导致模型在其他群体或场景上表现较差。
语音南瓜案例中的偏差来自训练样本不完整:
| 项目 | 实际情况 |
|---|---|
| 目标用户 | 儿童 |
| 训练数据 | 成年男性、成年女性 |
| 缺失数据 | 儿童声音 |
| 结果 | 模型无法识别真正目标用户的语音 |
这就是典型的 数据代表性不足。
如果只是一个玩具南瓜,最多是项目效果不好。但如果类似问题发生在医疗、金融、招聘、司法或健康监测场景中,后果就可能非常严重。
例如:
| 应用场景 | 数据偏差可能造成的问题 |
|---|---|
| 医学影像识别 | 某些人群的疾病识别准确率更低 |
| 贷款审批 | 历史不公平数据导致模型继续歧视某些群体 |
| 招聘筛选 | 模型继承过往招聘数据中的性别或学历偏见 |
| 语音识别 | 对儿童、老人、口音人群识别率较低 |
| 可穿戴健康监测 | 对不同年龄、性别、肤色、体质的人群泛化能力不足 |
| 生理信号疼痛监测 | 对不同个体的疼痛反应差异识别不稳定 |
所以,TinyML 项目不能只问“模型准确率是多少”,还要问:
数据来自谁?
数据覆盖了哪些场景?
哪些人群没有被采集?
哪些标签可能不可靠?
模型在不同人群上表现是否一致?
3.4 AI 发展的四个推动因素,也有反面风险
前一章讲过当前 AI 快速发展的四个关键推动因素:
更多数据
更强算力
算法进步
广泛社会关注
本章进一步指出:这四个因素都有对应的风险。
| AI 推动因素 | 正面作用 | 反面风险 |
|---|---|---|
| 更多数据 | 帮助模型学习更复杂规律 | 隐私泄露、数据滥用、数据完整性问题 |
| 更强算力 | 支持训练更大模型和更复杂系统 | 高能耗、高成本、环境影响 |
| 算法进步 | 提升准确率、效率和自动化能力 | 黑箱模型、偏见放大、不可解释 |
| 广泛关注 | 推动投资、教育、工具链发展 | AI 过度宣传、能力夸大、盲目部署 |
3.4.1 数据越多,隐私风险也越大
今天的 AI 系统大量依赖数据,尤其是语音、图像、行为数据、金融数据和健康数据。如果这些数据存储在云端数据库中,一旦数据库被攻击或泄露,数据可能被恶意复制、传播和长期滥用。
对于生理信号项目来说,这一点尤其重要。EEG、ECG、EMG、PPG、HRV、GSR / EDA 都可能反映人的身体状态、压力、疲劳、疼痛、情绪唤醒或健康状况。因此,这些数据不能被当成普通传感器数据随意上传、公开或共享。
Edge Impulse 的开发者服务条款中也明确包含使用限制和数据责任相关内容,例如不得上传违法、欺诈、歧视、未经明确同意使用他人数据等内容,并要求用户对其 Customer Data 的权利、授权和合法性负责。
3.4.2 算力越强,能源消耗也越值得关注
AI 的训练和部署需要计算资源。虽然芯片越来越强,单位计算效率也在提升,但社会对计算的需求增长更快。国际能源署 IEA 对 AI 与能源需求的分析中提到,数据中心用电预计在 2024 到 2030 年间快速增长,并可能到 2030 年接近全球总用电量的约 3%。
TinyML 的一个重要价值正好与此相关:并不是所有推理都必须放在云端完成。对于简单、连续、实时的任务,把模型部署到 MCU 或边缘设备上,可以减少不必要的数据上传和云端计算压力。
但也不能简单说 TinyML 一定“更环保”。如果设备数量巨大,或者模型设计不合理、采样过高、无线通信过于频繁,同样会带来能耗问题。因此,TinyML 项目也需要考虑低功耗运行、合理采样率和模型轻量化。
3.4.3 算法越复杂,越需要解释性和审计能力
深度学习模型通常像一个黑箱。我们知道它在训练集或测试集上准确率很高,但很难完全解释它为什么做出某个判断。
在普通应用中,这可能只是“不够透明”。但在高风险场景中,这就非常关键。例如:
AI 医生判断 X 光片中可能存在疾病
贷款模型拒绝某个人的贷款申请
招聘模型筛掉某个候选人
生理信号模型判断用户处于疼痛或高压力状态
这类结果会影响人的健康、权利或机会,因此不能只给出一个结果,还需要解释模型依据、数据来源、误差范围和适用边界。欧盟可信 AI 指南也把透明性、可追踪性、可解释性和人类知情列为可信 AI 的关键要求之一。
3.4.4 AI 关注度越高,越容易出现过度宣传
AI 现在很热门,政府、大学、企业和媒体都在投入资源。这有利于技术发展,但也会带来一个问题:很多产品会夸大 AI 能力。
在 TinyML 领域,常见的过度宣传包括:
模型在小样本上准确率很高 → 宣称可以真实场景使用
实验室数据效果不错 → 宣称可以产品化
相关性明显 → 宣称可以诊断疾病
单一生理信号有变化 → 宣称可以准确识别情绪或疼痛
这些说法都需要谨慎。尤其是健康和生理信号项目,模型输出更适合被称为“状态估计”“风险提示”或“辅助判断”,不能直接等同于医学诊断。
4. 什么是 Trustworthy AI,可信 AI?
本章提出一个重要概念:Trustworthy AI,可信 AI。
可以先从人与人之间的信任理解。我们为什么信任某个人?可能是因为:
他遵守道德
他有稳定的人格
他遵守法律
他尊重社会规范
他有同理心
他愿意承担责任
但是 AI 没有真正的人格、情绪和同理心。因此,要让人信任 AI,就不能依赖“它是好人”,而要依赖系统设计、法律约束、技术验证和责任机制。
欧盟可信 AI 指南提出,可信 AI 应在整个生命周期中满足三个组成部分:合法 Lawful、伦理 Ethical、稳健 Robust。
可以理解为:
Lawful:符合法律法规
Ethical:符合伦理原则和价值观
Robust:技术和社会层面都足够稳健
这对 TinyML 项目非常适用。一个部署到 MCU 上的模型,不是能跑起来就可以了,还需要考虑:
它采集的数据是否合法?
用户是否知情同意?
模型是否对不同人群公平?
设备是否足够安全?
模型是否容易被攻击?
出错后谁负责?
5. 欧盟可信 AI 七项关键要求
欧盟高层专家组发布的《Ethics Guidelines for Trustworthy AI》提出了七项关键要求,官方页面也列出了这些要求:人类主体性与监督、技术稳健性和安全、隐私和数据治理、透明性、多样性与公平、社会和环境福祉、问责机制。
| 序号 | 要求 | 通俗解释 | 在 TinyML 项目中的体现 |
|---|---|---|---|
| 1 | Human agency and oversight 人类主体性与监督 | 人类应保留最终控制权 | 模型不能完全替代人的判断,特别是医疗和安全场景 |
| 2 | Technical robustness and safety 技术稳健性与安全 | 系统要可靠、安全、可恢复 | MCU 模型要测试误判、断电、异常输入和攻击风险 |
| 3 | Privacy and data governance 隐私与数据治理 | 数据采集、存储、使用要合规 | 生理信号、语音、图像数据要获得同意并妥善保护 |
| 4 | Transparency 透明性 | 系统能力和限制要说明清楚 | 不能只给用户一个黑箱结果,要说明模型适用范围 |
| 5 | Diversity, non-discrimination and fairness 多样性、公平与非歧视 | 避免模型对某些群体不公平 | 训练数据要覆盖不同年龄、性别、体质、实验状态 |
| 6 | Societal and environmental well-being 社会与环境福祉 | AI 应对社会和环境有益 | 考虑低功耗、减少无意义计算和避免有害用途 |
| 7 | Accountability 问责 | 出现问题时要知道谁负责 | 明确开发者、公司、使用者和部署方责任 |
这些要求不是只适用于大型 AI 系统。只要 TinyML 设备会影响人的健康、安全、隐私或权益,就应该参考这些原则。
6. Responsible AI Licenses,RAIL,是什么?
课程最后提到,由于 AI 可能被用于有害目的,很多公司和社区开始通过 End User License Agreement,EULA,或 Responsible AI Licenses,RAIL,来限制 AI 系统的使用范围。
RAIL 的基本思想是:不仅规定版权和知识产权,还规定模型、代码、服务或数据不能被用于某些有害用途。Responsible AI Licenses 官方说明中提到,RAIL 旨在让开发者限制 AI 技术的使用,以防止不负责任和有害的应用,并且包含行为用途限制条款。
可以这样理解:
传统开源许可证:
主要规定代码能不能复制、修改、分发、商用。
Responsible AI License:
除了代码使用权,还规定不能把 AI 用于歧视、伤害、欺骗、违法、滥用等场景。
RAIL 并不能解决所有伦理问题,但它提供了一种法律和社区规范工具,让开发者在发布 AI 模型、代码或服务时表达清楚:哪些使用是允许的,哪些使用是不允许的。
Edge Impulse / Qualcomm 的 Responsible AI License 中也包含禁止或高风险用途相关条款,例如涉及犯罪预测、伤害他人、散布虚假信息、生成可用于伤害个人的可识别信息、冒充他人、全自动影响个人法律权利的决策、社会评分、基于受保护特征歧视,以及某些生物识别和情绪识别场景等。
7. 本章案例复盘:语音南瓜为什么失败?
| 项目 | 内容 |
|---|---|
| 案例目标 | 做一个能识别 “trick or treat” 的万圣节语音激活南瓜 |
| 使用数据 | 成年男性和成年女性说出关键词 |
| 目标用户 | 上门要糖果的儿童 |
| 失败原因 | 训练数据没有覆盖目标用户的声音 |
| 暴露问题 | 数据偏差、样本代表性不足、模型泛化能力差 |
| 对 TinyML 的启发 | 采集数据时必须覆盖真实使用场景和目标人群 |
| 对生理信号项目的启发 | 不能只采集少数人的生理数据就宣称模型适用于所有人 |
这个案例可以总结成一句话:
模型不是只学习“任务本身”,它学习的是训练数据中的任务表现。
如果训练数据偏了,模型也会偏。
对于你的生理信号 TinyML 项目,这一点尤其重要。例如,如果 GSR / EDA 疼痛监测只采集少数被试者的数据,或者只采集某一种运动、某一种疼痛强度、某一种佩戴方式下的数据,模型就可能只适用于这个小范围场景。
8. 关键概念解释
| 概念 | 通俗解释 | 技术解释 | 在本章中的作用 |
|---|---|---|---|
| Bias 偏差 | 模型偏向某些人或场景 | 数据、标签或算法导致模型输出系统性不公平或不准确 | 解释语音南瓜失败的根本原因 |
| Data Privacy 数据隐私 | 数据不能被随便使用 | 个人数据采集、存储、处理和共享需要保护和授权 | 对语音、图像、生理信号项目非常重要 |
| Data Integrity 数据完整性 | 数据不能被篡改或污染 | 数据应保持准确、完整、可追踪 | 影响训练质量和模型可信度 |
| Black Box 黑箱 | 看不清模型怎么判断 | 模型内部决策过程难以解释 | 影响医疗、金融等高风险场景使用 |
| Fairness 公平性 | 不应对某些群体更差 | 模型在不同群体中应保持合理表现 | 防止数据偏差造成歧视 |
| Robustness 稳健性 | 换场景也能可靠运行 | 模型对噪声、攻击、异常输入保持稳定 | MCU 真实部署必须考虑 |
| Trustworthy AI 可信 AI | 让人可以放心使用的 AI | 合法、伦理、稳健的 AI 系统 | 本章核心框架 |
| Accountability 问责 | 出问题要知道谁负责 | 明确开发者、公司、用户、部署方责任 | 产品化和医疗健康项目必须考虑 |
| RAIL | 负责任 AI 许可证 | 通过许可证限制 AI 有害用途 | 约束模型、代码、服务的使用边界 |
| Human oversight 人类监督 | 人不能完全退出决策 | 高风险场景中保留人工复核或干预 | 医疗、生理信号和安全系统尤其重要 |
9. 与生理信号监测 TinyML 项目的联系
9.1 共性:生理信号项目天然涉及隐私和伦理
EEG、ECG、EMG、PPG、HRV、GSR / EDA 都不是普通传感器数据。它们可能反映人的身体状态、精神压力、疲劳程度、疼痛反应、情绪唤醒或健康风险。
因此,生理信号 TinyML 项目必须关注:
知情同意
数据匿名化
受试者编号管理
数据安全存储
采集范围最小化
标签可靠性
模型公平性
结果解释
医学边界
部署责任
尤其是疼痛、疲劳、情绪识别这类任务,模型输出应被描述为“辅助估计”或“状态识别结果”,不能直接包装成医学诊断。
9.2 不同生理信号的伦理风险差异
| 信号 | 可能涉及的伦理风险 | TinyML 项目中的注意点 |
|---|---|---|
| EEG | 可能涉及注意力、疲劳、睡眠、认知状态 | 避免夸大“读脑”能力,明确模型只能识别特定实验条件下的信号模式 |
| ECG | 可能涉及心脏健康和心律异常 | 不能直接替代医生诊断,异常检测结果要谨慎表达 |
| EMG | 可能涉及动作能力、康复状态、肌肉疲劳 | 注意康复评估和运动能力数据的隐私 |
| PPG | 可能涉及心率、血氧、疲劳和压力 | 运动干扰明显,不能把低质量数据输出包装成准确健康判断 |
| HRV | 可能涉及压力、自主神经状态和疲劳 | HRV 个体差异大,窗口长度和算法选择会显著影响结果 |
| GSR / EDA | 可能涉及情绪唤醒、压力、疼痛反应 | 皮肤电受汗液、温度、紧张和电极接触影响,不能简单等同于疼痛或情绪 |
9.3 数据偏差在生理信号项目中会如何出现?
语音南瓜的偏差来自“没有儿童声音”。生理信号项目中也可能出现类似问题:
| 偏差来源 | 举例 | 后果 |
|---|---|---|
| 被试者偏差 | 只采集年轻男性 | 模型不一定适合女性、老人或不同体质人群 |
| 场景偏差 | 只在安静环境采集 | 真实运动或日常佩戴时效果下降 |
| 标签偏差 | 评分不稳定 | 模型学习到错误标签 |
| 设备偏差 | 只用一种传感器或电极 | 换设备后数据分布变化 |
| 佩戴偏差 | 电极位置不同 | 信号幅值和噪声变化 |
| 时间偏差 | 只采集短时间数据 | 长时间佩戴后生理信号变化影响模型 |
9.4 对 EEG、ECG、EMG、PPG、HRV、GSR / EDA 的共同开发建议
这些生理信号虽然不同,但从负责任 TinyML 的角度,都应该遵循类似流程:
明确任务边界
→ 获得知情同意
→ 采集多样化数据
→ 记录受试者和实验信息
→ 避免上传可识别个人身份的数据
→ 进行训练集 / 验证集 / 测试集划分
→ 分析不同人群和不同场景下的表现
→ 保留人类监督和人工复核
→ 明确模型不能替代医学诊断
→ 部署前检查平台许可证和使用条款
如果使用 Edge Impulse 进行训练和部署,还需要认真阅读其服务条款、隐私条款和 Responsible AI License,特别是在涉及健康、生理信号、可穿戴设备和潜在高风险应用时。Edge Impulse 的条款中要求用户遵守其 RAIL,并说明如果知道或合理怀疑某些用途被 RAIL 禁止,需要通知并与平台方审查;武器相关用途被明确禁止。
10. 主控平台迁移分析:伦理不只发生在云端
很多人会以为伦理问题主要发生在云端大模型中,但 TinyML 设备同样需要考虑。因为模型一旦部署到 MCU,就可能在本地实时影响设备行为。
| 主控平台 | 常见优势 | 与伦理和安全相关的注意点 |
|---|---|---|
| ESP32 / ESP32-S3 | Wi-Fi / BLE 方便,适合快速联网和原型开发 | 无线传输生理数据时要考虑隐私、安全和加密 |
| Nordic nRF52 / nRF53 | BLE 低功耗,适合可穿戴设备 | 适合减少云端上传,但仍需保护蓝牙通信和本地数据 |
| Arduino Nano 33 BLE Sense | 入门简单,适合语音 / IMU TinyML 教学 | 教学项目也要注意不要上传隐私音频或个人数据 |
| STM32 | 实时性和工业部署能力强 | 医疗和工业场景中要重视可靠性、故障处理和责任边界 |
| RP2040 / Raspberry Pi Pico | 成本低,适合基础实验 | 安全机制较弱,适合教学验证,不应直接用于高风险健康判断 |
| Edge Impulse 支持开发板 | 便于快速部署模型 | 平台使用条款和 Responsible AI License 需要提前确认 |
对生理信号项目来说,端侧推理有一个重要优点:可以减少原始生理数据上传,降低隐私风险。但端侧部署也有新的要求:设备本地存储、蓝牙通信、模型误判、固件更新、用户提示和安全关闭机制都要设计清楚。
11. 本章内容对未来项目的启发
11.1 疼痛监测
GSR / EDA 疼痛监测不能只依赖一个人的数据,也不能只看模型准确率。疼痛是高度主观的体验,NRS / VAS / McGill 等标签本身也存在个体差异。模型输出应被描述为“疼痛相关生理反应识别”或“疼痛评分辅助估计”,而不是直接宣称能够准确诊断疼痛。
11.2 情绪识别
GSR / EDA、HRV、PPG、EEG 可以用于情绪相关研究,但情绪状态不能简单由单一信号直接决定。不同人对同一刺激的生理反应可能完全不同,因此模型必须明确实验条件、标签来源和适用范围。
11.3 疲劳检测
EEG、HRV、PPG、EMG 和 IMU 都可用于疲劳检测,但疲劳标签往往需要结合主观量表、任务表现和生理指标。只用单一信号训练模型容易产生误判。
11.4 运动状态识别
EMG + IMU 的运动识别与语音南瓜案例类似,关键是训练数据要覆盖真实用户和真实动作。如果只采集标准动作,模型可能无法识别真实使用中的动作变形和个体差异。
11.5 可穿戴生理信号监测
可穿戴设备需要长时间采集数据,因此必须重视数据最小化和隐私保护。能在本地完成判断的数据,就不一定要上传原始波形。TinyML 的低功耗和端侧推理价值在这里非常明显。
11.6 多模态生理信号融合
多模态融合可以提升鲁棒性,但也会增加隐私风险。GSR / EDA、PPG、HRV、EMG、IMU 等信号组合后,可能更容易推断用户状态,因此更需要匿名化、权限控制和明确用途边界。
12. 本章还不能解决的问题
本章主要讨论机器学习伦理和责任问题,还不能直接解决以下技术问题:
-
如何设计医学级别的生理信号采集电路。
-
如何验证 GSR / EDA、ECG、EMG、PPG、EEG 的采样质量。
-
如何制定疼痛、压力、疲劳等标签的金标准。
-
如何证明模型在不同人群中公平有效。
-
如何量化模型偏差和误判风险。
-
如何在 MCU 上实现安全存储和加密通信。
-
如何设计人体实验伦理审批材料。
-
如何判断一个生理信号 TinyML 项目是否属于医疗器械范畴。
-
如何在产品中呈现模型不确定性和风险提示。
-
如何处理模型误判后的责任归属。
13. 本章总结
本章最重要的收获是:机器学习项目不能只看功能是否实现,也不能只看模型准确率。语音激活南瓜的失败说明,训练数据如果没有覆盖目标用户,模型就会产生偏差;在更严肃的场景中,这种偏差可能导致歧视、误判或安全风险。可信 AI 要同时考虑合法性、伦理性和稳健性,尤其在生理信号、健康监测、可穿戴设备和 TinyML 部署中,更要关注隐私保护、数据代表性、模型解释性、人类监督和责任归属。对于 EEG、ECG、EMG、PPG、HRV、GSR / EDA 等生理信号 TinyML 项目,负责任的开发流程应该从数据采集阶段就开始,而不是等模型训练完成后再补伦理说明。
14. 参考资料
| 资料名称 | 类型 | 链接 | 与本章内容的关系 |
|---|---|---|---|
| Ethics Guidelines for Trustworthy AI | 官方指南 | Ethics guidelines for trustworthy AI | Shaping Europe’s digital future | 用于说明欧盟可信 AI 七项关键要求,官方页面说明该指南提出了 AI 系统应满足的 7 项关键要求。(欧洲数字战略) |
| Ethics Guidelines for Trustworthy AI — Publications Office of the EU | 官方出版物 | https://op.europa.eu/en/publication-detail/-/publication/d3988569-0434-11ea-8c1f-01aa75ed71a1 | 用于解释可信 AI 的三组成部分:合法、伦理、稳健。(Publications Office of the EU) |
| Responsible AI Licenses,RAIL | 官方资料 | Responsible AI Licenses (RAIL) | 用于说明 RAIL 如何通过行为用途条款限制 AI 有害使用,RAIL 官方说明其目标是帮助开发者限制 AI 技术的不负责任和有害应用。(Responsible AI Licenses (RAIL)) |
| Edge Impulse Developer Plan Terms of Service | 官方条款 | Developer Plan Terms of Service | 用于说明 Edge Impulse 使用限制、数据责任和 RAIL 合规要求。(edgeimpulse.com) |
| Edge Impulse / Qualcomm Responsible AI License | 官方许可证 | https://www.edgeimpulse.com/legal/responsible-ai-license | 用于说明禁止或高风险 AI 用途,例如伤害、歧视、虚假信息、犯罪预测等。(edgeimpulse.com) |
| Energy demand from AI — IEA | 权威报告 | Energy demand from AI – Energy and AI – Analysis - IEA | 用于补充 AI 算力增长和数据中心能源消耗问题,IEA 预计全球数据中心用电到 2030 年约达 945 TWh。(IEA) |
| AI Act — European Commission | 官方政策资料 | AI Act | Shaping Europe’s digital future | 用于说明 AI 监管正在围绕风险、信任和安全展开;欧盟页面称 AI Act 是首个 AI 法律框架。(欧洲数字战略) |
| Responsible AI Licenses: a practical tool for implementing trustworthy AI — OECD.AI | 政策解读 | https://oecd.ai/en/wonk/rails-licenses-trustworthy-ai | 用于理解 RAIL 作为可信 AI 实践工具的作用,OECD.AI 说明 RAIL 可用于模型、源代码、应用服务和数据。(OECD.AI) |
| Behavioral Use Licensing for Responsible AI | 学术论文 | [2011.03116] Behavioral Use Licensing for Responsible AI | 用于补充行为用途许可证如何为 AI 提供可执行的责任约束。(arXiv) |
| On the Standardization of Behavioral Use Clauses and Their Adoption for Responsible Licensing of AI | 学术论文 | [2402.05979] On the Standardization of Behavioral Use Clauses and Their Adoption for Responsible Licensing of AI | 用于说明负责任 AI 许可证的采用、标准化和适应问题。(arXiv) |
| Trustworthy AI: A Computational Perspective | 综述论文 | [2107.06641] Trustworthy AI: A Computational Perspective | 用于扩展可信 AI 在安全、公平、可解释、隐私、问责和环境方面的技术视角。(arXiv) |
更多推荐

所有评论(0)