人教版（2024）人工智能专册第24课 智能向善与伦理道德教学ppt课件

这是一份人教版（2024）人工智能专册第24课 智能向善与伦理道德教学ppt课件，共31页。PPT课件主要包含了什么是“智能向善”，如何让AI造福人类，智能向善三大关键词，核心公平公正，现实偏见案例，思辨为何“偏心”，核心·可解释性，禁止·拒绝黑箱，思考·为什么，核心安全可控等内容，欢迎下载使用。
情境导入（一）：AI，让生活更美好！
刷脸支付快速通行，告别钱包支付方式的新变革
智能推荐懂你所想，予你所求精准推送你喜欢的内容
AI绘画 / 写作激发无限创意灵感高效辅助完成任务
智能测温非接触式快速筛查安全便捷，守护健康
情境导入（二）：但是，AI也带来了新的风险与困惑...
刷脸信息被泄露？
生物识别信息一旦被窃取，个人身份几乎无法“挂失”，隐私安全面临严峻挑战。
推荐内容越看越窄？
个性化推荐算法不断强化我们的固有喜好，逐渐形成“信息茧房”，限制了认知的广度。
AI生成内容涉嫌抄袭？
AI模型训练基于海量人类数据，生成的内容版权归属模糊，引发大量的知识产权纠纷。
校园AI系统分析我的行为？
无处不在的校园监控与数据分析，在提升管理效率的同时，也引发了对个人隐私的担忧。
? 核心问题思考技术本身没有善恶，但使用方式、设计目标、价值导向，决定了AI最终是造福人类的“向善”力量，还是带来危害的“致害”工具。
今天，我们一起探讨：如何让AI向善？
是技术发展与人文关怀的融合，也是赋予机器共情能力与道德底线的终极追问。
AI 面临哪些伦理挑战？
数据偏见与隐私泄露、算法黑箱与决策失控，人类正在面临新的考验。
建立全球治理框架与技术标准，让技术始终在人类的掌控中，温暖而有力。
让科技更有温度 · 让智能更具人文
AI FOR GOOD · 智能向善人工智能技术的研发与应用，以人类福祉、社会公平正义为根本目标，坚守伦理道德与法律法规底线，主动规避技术滥用、数据泄露、算法偏见等风险，最终确保技术始终服务于人的全面发展与社会的可持续发展。
人类福祉Human Well-being
AI要为好人服务、做好事、不伤害人。技术的终极价值，在于为人类创造更美好的生活，守护生命的尊严与温度。
公平正义Equity & Justice
AI不能偏心，要对所有人一视同仁。消除算法偏见，保障不同群体享有平等的技术权利，构建无差别的智能社会。
坚守底线Bttm Line
AI的发展必须遵守法律和道德。技术不能突破伦理的边界，法律是不可逾越的红线，道德是内心的准则。
AI的“道德底线”：四大基本原则（一）
核心：以人为本，尊重人权AI发展必须以保障人的生命安全、身心健康、人格尊严为最高准则，技术应当服务于人类福祉。
禁止：不可触碰的“红线”任何AI应用均不得侵犯用户隐私、实施算法歧视，更不能伤害或利用弱势群体牟利。
思辨时刻：为何“人”是第一位？因为技术本身没有价值，它的价值源于为人所用。在任何时候，“人”都比冰冷的算法和数据更重要。
AI的“道德底线”：四大基本原则（二）
AI系统在决策和服务中，应严格避免因性别、年龄、地域、种族或身份等因素，导致对特定群体的不公平结果或歧视性对待。目标：让技术成为“天平”，而非“放大镜”。
•招聘算法歧视：某科技巨头的招聘AI曾被发现对包含“女性”特征的简历进行自动降分。•识别准确率差异：早期人脸识别技术在识别有色人种时，误报率远高于白人。
如果AI本身是中立的数学模型，为什么会出现“偏心”现象？? 关键线索：AI学习的对象是“人类社会的数据”。如果训练数据本身就隐含了历史的偏见或不全面，AI也会将其“学习”并放大。
AI的“道德底线”：四大基本原则（三）
原则三：透明可解释，拒绝黑箱
对于高风险的关键决策类AI应用，例如：• 高校招生录取筛选• 医疗诊断与辅助治疗方案• 金融信贷风险评估必须清晰说明做出判断的依据和逻辑。
坚决杜绝“黑箱”模式的运行：“只给出结果，不说明原因”不能让算法变成一个神秘的、无法被监督和理解的“黑盒子”，将人类的命运交由未知逻辑主宰。
“黑箱”AI最大的危害是什么？1. 失去信任：缺乏透明度，人类很难对无法理解的决策建立深层信任。2. 追责困难：一旦出现错误，无法追溯原因和责任主体，造成权益受损无法救济。
AI的“道德底线”：四大基本原则（四）
系统基石AI技术无论多么先进，都必须保持安全、稳定运行，且始终处于人类的有效控制之下，不能成为脱离监管的“黑箱”。
权责明确当AI系统造成危害或出现失误时，必须能够追溯并明确相关方的责任，无论是算法开发者、产品使用者还是监管机构，都不能推诿责任。
“安全可控”的现实意义？如果你是一名普通的AI使用者，为什么“AI不能失控、出事有人负责”对你至关重要？? 提示：想象一下如果自动驾驶汽车撞了人...
案例剖析：AI应用中的伦理风险
接下来，我们将通过四个典型案例，深入剖析这些AI应用场景违背了哪些核心伦理原则，以及在实际落地过程中潜藏着怎样的现实风险。
01 · 算法歧视与偏见训练数据偏差或算法逻辑缺陷导致AI对特定群体产生不公平对待，加剧社会不平等，违背“公平性”与“非歧视性”原则。
02 · 隐私泄露与滥用在数据采集、存储与使用环节，未经授权过度收集个人敏感信息，或因技术漏洞造成数据泄露，严重侵犯用户“隐私权”。
03 · 身份认同与异化深度伪造技术滥用，模糊了真实与虚假的界限，破坏个人声誉与社会信任基础，冲击了人的主体性与真实性原则。
04 · 责任归属与失控AI决策过程的“黑箱”特性及高度自主化，导致事故发生时难以界定责任主体，同时带来了系统失控的潜在生存风险。
案例一：人脸识别 — 便利背后的隐私泄露
应用场景广泛渗透已成为校园门禁、商场客流统计、交通枢纽安检的“标配”，生活便利度大幅提升的同时，也让每个人暴露在“镜头”之下。
不容忽视的隐私风险• 采集合规性存疑：未经用户明示同意收集人脸特征数据• 数据安全失控：敏感生物特征信息被非法泄露、倒卖或滥用• 监控边界模糊：过度采集分析行为数据，侵犯个人空间与自由
核心原则的背离：以人为本，尊重隐私技术不应成为侵犯人权的工具，保护隐私是技术发展的红线。
案例二：智能推荐 —— 信息茧房与沉迷陷阱
广泛存在于各类互联网应用中，是目前获取信息、消费娱乐最主流的方式：• 短视频APP (如抖音、快手)• 购物APP (如淘宝、京东)
?视野变窄，陷入“信息茧房”只看到自己喜欢的，信息来源单一?极易沉迷，消耗大量时间算法利用人性弱点，让人难以自控?价值观趋于片面与极端缺乏多元视角，认知难以提升
从科技伦理与教育的角度看，过度的个性化推荐违背了：1. 公平公正原则应当为用户提供多元、全面的信息环境，而非“过滤”掉异见与新知。2. 促进人的全面发展科技不应以“娱乐至死”为导向，而应致力于帮助人成长与完善。
案例三：AI生成内容 —— 抄袭、造假与版权侵权
AI生成内容 (AIGC)在艺术创作、文字撰写等领域展现强大能力的同时，也带来了复杂的伦理与法律挑战。
典型应用场景涵盖 AI 绘画、AI 写作、代码生成等，广泛应用于创意设计、内容生产及辅助办公等领域。
主要伦理与法律风险• 未经许可学习并复刻他人作品，涉嫌直接抄袭或侵犯版权• 生成虚假信息、伪造数据，破坏信息真实性• 学术或商业场景中用于作弊，破坏公平竞争环境
违背的核心原则尊重原创知识产权 | 恪守公平诚信底线 | 负责任地使用技术
案例四：校园AI行为分析 —— 标签化与歧视风险
应用场景：部分学校引入AI视觉识别系统，在课堂上持续捕捉、分析学生的面部表情、头部转动及肢体动作，试图量化并评判学生的“专注度”与“学习态度”。
表情与动作不等于真实的学习态度。AI仅能捕捉表面特征，无法理解学生思考的深度与内心状态，容易产生“误判”。
算法的简单分类极易给学生贴上“不专注”“学习能力差”等固化标签，忽视了学生的个体差异，限制了成长的可能性。
容易对表现不佳的学生形成系统性歧视，导致其受到区别对待，严重打击自信心与自尊心，造成不可逆的心理伤害。
违背核心原则教育伦理与科技应用的底线
AI伦理风险的核心根源
训练数据带有群体偏见、数据来源不合法，或者样本覆盖不完整，导致AI“学坏”。
算法模型设计存在逻辑缺陷、鲁棒性不足，或者缺乏可解释性，导致决策黑箱。
产品设计初衷偏离用户福祉，过度追求商业利益或流量，诱导用户成瘾或过度消费。
开发者或终端用户滥用技术，将AI应用于高风险、非道德场景，如深度伪造、大规模监控等。
思辨时刻（一）：技术便利与伦理风险
? 核心议题：技术便利与伦理风险的博弈
人脸识别技术作为校园安全管理的“强力助手”，能显著提升门禁效率、校园防暴、失踪预警等公共安全水平。然而，全天候的面部信息采集与算法分析，极易引发关于学生肖像权、行踪隐私权的争议。面对这把“双刃剑”，我们应该如何在保障公共安全与维护个人隐私之间，找到一个既合理又合情的平衡点？
⏳ 小组讨论：限时3分钟，充分交流观点；讨论结束后，每组派一位代表上台分享。
思辨时刻（二）：我们该如何看待AI推荐？
? 核心议题：便利与陷阱的博弈智能推荐算法能“比你更懂你”，帮我们从海量信息中快速找到感兴趣的内容，极大提升了获取信息的效率。但与此同时，它也可能通过不断强化我们的偏好，让我们陷入“信息茧房”和“算法牢笼”，逐渐丧失对多元观点的包容与判断力。对此，我们应当如何理性地使用智能推荐，在享受便利与保持视野开阔之间找到平衡点？
?️ 课堂行动请以小组为单位进行3分钟自由讨论，随后每组邀请一名代表分享你们的思考与共识。
AI向善，我们都是参与者！
AI 向善，不仅是开发者和政府的责任。在人机协作的新时代，每一位青少年都是这场变革的关键参与者与共建者。
做“负责任”的使用者保持理性思考，辨别信息真伪，善用AI提升效率，拒绝滥用与网络暴力，维护数字世界的安全与纯净。
做“有创造力”的共建者积极学习AI技术与思维，发挥想象力，用编程和创新解决社会问题，让技术真正造福人类与未来。
做“有温度”的思辨者主动关注AI伦理与人文价值，在技术发展中守住人性底线，让科技始终闪耀着“人”的光辉。
青少年AI伦理行动指南（一）
• 树立隐私红线：不随意泄露自己和他人的敏感个人信息（如人脸、真实姓名、身份证号、家庭住址等）。• 坚持“最小原则”：使用AI应用时，仅提供服务所需的最小必要数据，坚决拒绝授权与功能无关的敏感权限。
“用AI绘画时，要不要上传自己的真实照片作为参考图？为什么？”提示：上传照片可能涉及面部特征提取、生物信息库训练等隐私风险。
? AI时代，“守护隐私”是每位数字公民的必修课。
青少年AI伦理行动指南（二）
指南 02：公平公正，拒绝偏见• 尊重多元，不歧视他人，不主动使用带有偏见的AI工具。• 不传播、不制作基于性别、种族、年龄等歧视性的内容。
指南 03：批判性使用，不盲从• 时刻记住：AI会出错、会有偏见、甚至会“一本正经地胡说八道”。• AI生成的结果只能作为参考，不能完全相信。重要的决定必须由人来做最终判断。
? 深度思考AI帮你写的作文、算出来的答案，到底能不能直接照抄交差？
青少年AI伦理行动指南（三）
指南4：尊重版权，拒绝抄袭
✓ 规范引用，注明来源使用AI辅助生成内容时，应主动注明AI工具名称及内容生成方式，尊重创作者的知识产权和劳动成果。✕ 拒绝作弊，坚守诚信坚决抵制利用AI技术在作业、考试或竞赛中作弊、伪造数据或学术造假的行为，维护公平的学习与竞争环境。
指南5：安全可控，拒绝滥用
❖ 技术红线不可碰：不尝试破解AI系统，不利用技术漏洞进行攻击或滥用，自觉维护AI技术的安全性和稳定性。❖ 行为底线要守牢：严禁利用AI从事违法犯罪、造谣传谣、侵犯隐私或其他违背公序良俗的活动。❖ 风险防范记心间：若发现AI技术被滥用或存在安全风险，请及时向老师、家长或相关平台报告。
智能向善，始于理解，成于行动
我们要做懂技术 · 明伦理 · 负责任 · 有温度的数字公民
懂技术掌握必要的数字技能驾驭工具而非被工具驾驭
明伦理辨明网络是非与界限坚守数字时代的道德底线
负责任恪守网络行为的公约对自己的每一次言行负责
有温度传递人与人的人文关怀让冰冷的科技充满人性温暖
“ 让科技的发展，始终与人类的福祉同行 ”
思辨时刻（三）：AI作弊，谁之过？
如果同学使用AI完成了本该自己完成的作业，这是AI的错，还是使用者的错？我们应该如何看待和应对这种行为？
课堂行动 · 小组讨论⏱️ 限时3分钟，各小组选派1名代表分享观点
实践活动：制定《校园AI应用向善公约》
以小组为单位，将今天学到的AI伦理原则转化为具体行动指南，共同制定一份《校园AI应用向善公约》，为我们在校园中的AI应用行为确立标准。
隐私 · Privacy
不随意刷脸打卡，不泄露同学个人信息。
公平 · Fairness
不利用AI工具在学习上搞特殊化，破坏竞争环境。
诚信 · Integrity
不用AI完成作业和考试，引用AI生成内容时要注明来源。
安全 · 明辨真伪不传播AI生成的虚假信息和谣言，学会识别信息来源，保持理性判断。
自律 · 善用工具合理安排使用AI的时间，不沉迷其中，让AI成为辅助学习的好帮手，而非依赖。
互助 · 共同成长互相提醒，帮助身边的同学负责任地使用AI，在交流与协作中共同进步。
智能向善技术服务人 · 造福人 · 不伤害人让AI成为人类的助手而非主宰
✨ 以人为本 ✨ 公平公正? 透明可解释 ?️ 安全可控
? 个人隐私泄露风险⚖️ 算法歧视与公平风险? 内容诚信与沉迷风险
懂伦理Ethical Awareness
明辨算法背后的逻辑与价值观，不利用技术伤害他人，维护数字世界的公平正义。
负责任Respnsibility
谨慎发布信息，保护个人与他人隐私，对自己的每一次“数字行为”承担相应后果。
有温度Humanity & Empathy
技术之外不忘人文关怀，拒绝网络暴力，让冰冷的代码传递人与人之间的温暖与善意。
青少年要做懂伦理、负责任、有温度的数字公民，用我们的行动，共同推动 AI 向善发展。
科技有温度 · AI需向善 · 公民有责任
任务一：家庭分享与讨论
与家人分享今天所学的“智能向善”知识，并共同讨论一个你们在日常生活中遇到或想到的AI伦理问题。? 思考提示：比如AI换脸的隐私风险、推荐算法是否让我们的视野变窄了？
完成一份关于“如何负责任地使用AI”的创意作品，可以选择：? 图文并茂的手抄报（A4/A3纸手绘或电子版）? 1-3分钟的科普短视频（可使用AI工具辅助制作）✨ 下节课我们将邀请几位同学分享作品，一起交流。