电子工业社版（2022）第五册3.2 人工智能的安全与防范公开课ppt课件

这是一份电子工业社版（2022）第五册3.2 人工智能的安全与防范公开课ppt课件，文件包含32人工智能的安全与防范课件pptx、32人工智能的安全与防范教案doc、1课前导入视频mp4等3份课件配套教学资源，其中PPT共33页， 欢迎下载使用。

1、信息意识：能够了解人工智能的基本概念和原理，认识到人工智能技术在社会中的广泛应用。2、计算思维：能够使用编程语言和工具进行简单的人工智能安全实践，提高技术素养和动手能力。3、数字化学习与创新：能够了解当前人工智能安全领域的最新进展，关注行业动态，积极参与相关学术和社区活动。4、信息社会责任：能够了解人工智能技术的潜在风险和社会影响，认识到个人、企业和社会在人工智能发展中的责任与义务。
1、在央视“3·15”晚会上，揭露了某些商家使用在门店安装的摄像头进行人脸识别，用于消费者管理的问题。顾客进店后在完全不知情的情况下就被采集了人脸数据，这些信息一旦被泄露，将严重威胁个人的财产、隐私安全。
2、人工智能技术已经广泛应用到人们的生产和生活中，历史经验表明新技术常常能够提高生产效率，促进社会进步。但与此同时，由于人工智能尚处于初期发展阶段，该领域的安全、伦理、隐私的政策、法律和标准问题尚不健全。
活动1探究人工智能技术带来的安全隐患
1.随着人工智能技术的发展，越来越多的个人数据被记录和分析，因此隐私保护是人工智能技术发展过程中需要特别关注的问题。在发展人工智能技术的同时，保障个人隐私是增加社会信任的重要条件。
2、要保障人工智能技术的使用安全，人工智能技术本身及在各个领域的应用应遵循人类社会所认同的伦理原则。建立一个令人工智能技术真正造福于社会、保护公众利益的政策、法律和标准化环境，是人工智能技术持续、健康发展的重要前提。
1.人工智能的普及极大地改变了人类的生活和工作方式: 从小巧便携的智能手表、智能手环等穿戴设备到影响人类生活和工作的智能管家、无人驾驶技术、智慧交通等。对大量的个体数据进行收集、储备、分析，对这些庞杂的信息进行计算和驱动，寻求对应的计算结果，可以为人类提供更加精准化的服务。利用智能系统获取和分析大数据使用价值的同时，也存在泄露敏感信息和个人隐私的法律风险。
2.人工智能时代，除了完善隐私保护的法律、加强行业自律管理，作为数据信息的提供者，我们也应当培养法治意识，积极学习互联网安全知识，养成良好的上网习惯，加强个人隐私安全保护能力。
3.在使用软件之前，先要认真阅读隐私条款再决定是否接受，而非直接勾选“同意”，以免陷入可能泄露自身隐私的风险中; 在公共网络环境下，要警惕可能入侵自己手机或者电脑的黑客，要安装杀毒软件或防火墙，完善电子设备的防御系统; 要及时清除浏览器历史记录，将重要资料离线保存，充分保护好自己的隐私。
4.对于敏感数据的泄露，我们应当学会用法律武器维护自己的权益，而非采取放任态度。
活动2关于人工智能安全的相关政策
1。关于安全、伦理、隐私的政策和法律是人工智能发展的保护伞。解决人工智能发展中的安全与伦理问题，需要制定合理的政策、法律与标准。建立一个令人工智能技术造福于社会、保护公众利益的政策、法律和标准化的环境，是人工智能技术持续、健康发展的重要前提。
2。我国的《人工智能标准化白皮书(2018 版)》集中讨论了与人工智能技术相关的安全、伦理、隐私的政策和法律问题，提出了应当遵循的原则;人类利益原则与责任原则。请你查阅资料，了解相应原则的内容，针对制定这些原则的意义谈谈你的看法。
1、我国对人工智能的发展极为重视，近几年相继颁布了《“互联网十”人工智能三年行动实施方案》《人工智能标准化白皮书(2018 版)》《新一代人工智能发展规划》和《促进新一代人工智能产业发展三年行动计划》等一系列政策性文件，从战略层面引领人工智能发展。
2、人工智能是人类智能的延伸，也是人类价值系统的延伸。在其发展的过程中，应当包含对人类伦理价值的正确考量。设定人工智能技术的伦理要求，要依托于社会和公众对人工智能伦理的深入思考和广泛共识，并遵循一些共识原则。
3.1 原则一是人类利益原则，即人工智能应以实现人类利益为终极目标。这一原则体现对人权的尊重、对人类和自然环境利益最大化以及降低技术风险和对社会的负面影响。在此原则下，政策和法律应致力于人工智能发展的外部社会环境的构建，推动对社会个体的人工智能伦理和安全意识教育，让社会警惕人工智能技术被滥用的风险。
3.2 此外，还应该警惕人工智能系统做出与伦理道德偏差的决策。例如，大学利用机器学习算法来评估入学申请，假如用于训练算法的历史入学数据(有意或无意)反映出之前录取程序的某些偏差(如性别歧视)，那么机器学习可能会在重复累计的运算过程中恶化这些偏差，造成恶性循环。如果没有纠正，偏差会以这种方式在社会中永久存在。
4、二是责任原则，即在技术开发和应用两方面都建立明确的责任体系，以便在技术层面可以对人工智能技术开发人员或部门问责，在应用层面可以建立合理的责任和赔偿体系。在责任原则下，在技术开发方面应遵循透明度原则，在技术应用方面则应当遵循权责一致原则。
5、透明度原则要求人应当了解系统的工作原理从而预测未来发展即人类应当知道人工智能如何以及为何做出特定决定，这对于责任分配至关重要。例如，在神经网络这个人工智能的重要议题中，人们需要知道为什么会产生特定的输出结果。另外，数据来源透明度也同样非常重要。即便是在处理没有问题的数据集时，也有可能面临数据中隐含的偏见问题。透明度原则还要求开发者注意多个人工智能系统协作产生的危害。
6.1、权责一致原则，指的是未来政策和法律应该做出明确规定: 一方面必要的商业数据应被合理记录、相应算法应受到监督、商业应用应受到合理审查:另一方面，商业主体仍可利用合理的知识产权或者商业秘密来保护本企业的核心参数。在人工智能的应用领域，权利和责任一致的原则尚未在商界、政府对伦理的实践中完全实现。
6.2、主要是由于在人工智能产品和服务的开发和生产过程中，工程师和设计团队往往忽视伦理问题，此外人工智能的整个行业尚未习惯于综合考量各个利益相关者需求的工作流程，人工智能相关企业对商业秘密的保护也未与透明度相平衡。
1、随着图像处理和人工智能技术的发展，不少“换脸”应用走红网络。只要动动手指，就可以将自己的脸替换成别人的脸。请你体验 AI“换脸”,你认为 AI“换脸”在生活中的应用是否存在安全风险?说说你的理由，并谈一谈我们应当如何进行防范。
1 关于个人信息安全防范的做法正确的有（ ）
A： 当我们在使用软件之前，不需要认真阅读隐私条款，可直接选择同意安装B : 在公共网络环境下，要安装杀毒软件或防火墙，网上电子设备防御系统C : 在公共网络环境下要及时清除浏览器历史记录，将重要资料离线保存，保护好自己的隐私D : 对于敏感数据的泄露，我们应当学会用法律武器维护自己的权益，而非采取放任态度
2 我国的《人工智能标准化白皮书(2018 版)》集中讨论与人工智能技术相关的安全、伦理、隐私的政策和法律问题，提出了应当遵循的原则下列说法不正确的是（ ）
A.人类利益原则，即人工智能应以实现人类利益为终极目标B.责任原则，即在技术开发和应用两方面都建立明确的责任体系C.在责任原则下，在技术开发方面应遵循透明度原则D.商业数据可以随意记录，相应算法无须受到监督
1、使用强密码：使用难以猜测的、包含字母、数字和特殊字符的强密码，并定期更换密码。2、多因素身份验证：启用多因素身份验证可以提供额外的安全层级，确保只有授权的人才能访问您的账户。3、注意社交媒体隐私设置：检查并限制您在社交媒体平台上的隐私设置，仅与可信任的人分享您的个人信息。4、谨慎点击链接和下载附件：避免点击来自不可信来源的链接，不要下载未经验证的附件。这样可以减少恶意软件感染的风险。
通过人工智能的安全与防范课程这节课，我们从中学到了丰富的知识和技能，对于人工智能，增强了的安全和防范意识，并能积极采取相应的防范措施，我们学会了更好地保护自己的个人信息，并降低遭受网络威胁的风险。