2024.09.13 飞络与亚马逊云科技在上海联合开展了一场有关 "AI 安全" 的沟通研讨会，邀请了各行各业近百家用户的参与，本次研讨会旨在探讨 AI 安全: 企业如何保证使用大语言模型的安全和合规、应对生成式 AI 的安全挑战、生成式 AI 从理论到实践的可能性探索、通过 AI 增强 SOC 运营能力的方法等课题。
一.如何保证使用大语言模型的安全和合规
在 AI 兴起的大环境下，很多企业对于是否要开展 AI 化各执其词。
目前 AI 当下存在大语言模型能力局限性高、基础设施不完善、AI 数据安全和隐私保护问题亟待解决等问题。
(一) AGI 发展历程
从 AI1.0 的基础理论研究，到 AI2.0 时代 GPT 技术的突破，我们见证了人工智能如何模仿人类大脑在数字世界中的运作。AI1.0 阶段主要集中在识别和感知能力的深度神经网络，而 AI2.0 则开启了初步的人工通用智能 (AGI), 标志着人类大脑在数字世界中的初步实现。未来，我们期待着 AI3.0 和 AI4.0 阶段的到来，继续探索智能体与物理世界的交互以及真正意义上的 AGI。
(二) 2024 年下半年 AI 关键词
2024 年下半年，各大行业和企业将更大的精力和成本投入到 AI Agent 和 Framework 的开发中，来实现 AI 的场景化实际落地，将企业和行业内部数据与大语言模型更好地进行结合。与此同时，大量 Agent 和 RAG 应用的使用，牵涉到了大量企业内部隐私数据，更多人开始关注 AI 数据。
(三) 用安全管控 AI-ASSA
飞络自研产品 ——ASSA。这款强大的 AI 网关不仅支持多语言和实体识别，
ASSA 搭载 AI 功能，能准确编辑 ASR 转录、聊天记录和电子健康记录等数据，显著降低错误率。ASSA 能够识别和编辑多种语言的文本，并支持广泛的输出配置，确保符合隐私法规。此外，ASSA 还采用少样本学习技术，能够开发自定义实体类型。
ASSA 的应用领域包括自动驾驶、多模态技术、自然语言处理和 AI 出海，助力企业在全球范围内实现 AI 技术的广泛应用。让我们共同期待 ASSA 带来的变革与创新!
更多 ASSA 功能详见 ASSA 相关推文，获取详情。
二.如何应对生产式 AI 的安全挑战
(一) 生成式 AI 的风险
在使用生成式 AI 时，我们需要关注以下风险和安全策略: 数据隐私和安全: 客户对数据隐私和安全的顾虑，以及 AI 模型输出中的幻觉和有毒性。合规性挑战: 目前还没有全球统一的规范性方法来验证 AI 的可靠性，这使得合规性成为一个挑战。战略性安全思考: 生成式 AI 通过提高生产力来创造经济收益，深深嵌入到用户的基础设施中，集成到应用程序中，贯穿整个企业，并遍及供应链。采用整体深度防御安全方法，提升企业和供应链的安全性。了解并管理这些风险，才能更好地利用生成式 AI 技术，推动其安全和可靠的发展。
(二) 生成式 AI 安全框架
在生成式 AI 的应用中，安全性至关重要。我们将用例分为五个范围:
消费者应用程序: 使用“公共”生成式 AI 服务，如 ChatGPT,Midjourney。
企业应用程序: 使用具有生成式 AI 功能的应用程序或软件即服务 (SaaS), 如 Salesforce Einstein。
预训练模型: 在版本化模型上构建您的应用程序，如 Amazon Bedrock。
微调模型: 根据您的数据对模型进行微调，如 Amazon Bedrock 自定义模型、Amazon SageMaker JumpStart 等。
自训练模型: 根据您的数据从头开始对模型进行训练，如 Amazon SageMaker JumpStart。
确保生成式 AI 的安全需要关注治理和合规、法律和隐私、风险管理、控制和韧性。
(三) 亚马逊云科技如何保障 AI 安全
亚马逊云科技拥有四项基本的安全服务
AWS Security Hub、
Amazon GuardDuty、
AWS Key Management Service (AWS KMS)、
AWS Shield Advanced
分别从事件响应、威胁检测、数据保护、网络 / 应用安全 4 个层面来保障。
亚马逊云科技可通过: 亚马逊云科技生成式 AI 服务、亚马逊云科技安全，身份和合规服务、
亚马逊云科技 Ops, 网络和存储服务完成生成式 AI 与安全的整合。可全链路的保障数据安全。
三.生成式 AI 的可能性探索从理论到实践
SCSK 集团的目标是成为一家【共创 IT 公司】, 通过提高包括员工能力的资本能力，促进与客户、合作伙伴和社会的共同创造，并能持续为解决客户各种课题提供价值。为了实现“2030 共创 IT 公司”的目标，作为企业根本优势，我们将尽全力实现包括【经济价值】【社会价值】和【人力资本价值】等非财务要素的【综合企业价值】的大幅提升。
(一) 什么生成式 AI
生成式 AI 又称为【Generative AI】生成式人工智能，依赖基于大数据集训练的深度学习模型来创建新内容。
近年来生成式 AI 引起了全球的关注，生成式 AI 的【ChatGPT】为首，各种各样的生成式 AI 已开始被灵活运用到商业或 DX、日常生活的各种场景中。
(二) 生成式 AI 产品实践
主要功能: 通用聊天机器人、文书检索聊天机器人、翻译机器人 (选项)、会议记录机器人 (选项)
系统架构:RAG 检索增强生成 (Retrieval-AugmentedGeneration)。当生成式 AI 回答问题时，除了生成式 AI 数据库外，它还使用一种整合内部数据的方法，以便从其庞大的数据库中搜索和回答信息，使用向量等数据库来生成更准确和独特的响应。
功能项: 基于 Chatbot 的信息管理 (权限管理)、信息安全管理、与企业微信等 SNS Apps 的协同、图像数据处理、翻译、通过音频数据自动做成会议纪要、显示文件链接并可跳转到相应页面。
四.如何通过 AI 增强 SOC 运营能能力
云梦守望作为一个大数据安全分析运营平台，具备显著的易操作性、可扩展性和可定制性，无论是作为 SOC 运营中不可或缺的 SIEM 平台还是作为企业业务运营中的数据分析平台，云梦守望都有着强大的性能与周全的服务。
云梦守望不仅于此，AI 的时代已经到来，云梦守望除了传统的安全日志分析能力，还具备 AI 辅助的功能，人工智能所带来的高效、简洁与专业，都能在客户需求时呈现于前。
(一) ALL-SOC 功能详情
ALL-SOC 功能分为基础功能、AI 赋能、特色功能三大板块
基础功能: 日志收集、可定制化数看板、开箱即用的 Use Case 库、安全工单管理、流量分析等
AI 赋能:AI + 安全分析能力、AI 助手、智能推荐 Use Case
特色功能:FN2.0 大数据分析能力、多语言支持、UEBA 用户行为分析
(二) 特色 AI 赋能
AI + 安全分析能力: 自主通过 AI 分析能力，结合客户具体日志信息，云梦守望为客户提供针对每个威胁事件的智能分析及处置建议，大大节省分析处置时间并有效降噪、提高准确率。
智能推荐 Use Case: 通过 AI 分析能力结合客户接入的日志源，云梦守望为客户提供智能 Use Case 的新建和调优建议，显著减少了安全运营对安全专家的依赖，加快了上线速度并提升了分析效果。
AI 助手:AI 助手可以通过自然语言的方式帮助企业快速了解安全、运维、应用数据分析等层面的现状，并能结合 AI 的能力给出专业的改善建议。
(三) 应用场景
用场景涵盖电商平台、银行业务、证券交易、生产制造，IoT 自动控制、车联网等业务场景。可根据不同的应用场景实现交易场景检测规则、交易风险特征规则、营销生命周期管理规则、业务健康态势感知、服务端控制措施检测、车机数据一致性检测等特色规则。
本次 FN24 线下活动相关资料，可搜索飞络官网与我们取得联系。
★ 飞络 2024 年 Q4 产品优惠活动即将重磅出现，敬请期待!
广告声明：文内含有的对外跳转链接（包括不限于超链接、二维码、口令等形式），用于传递更多信息，节省甄选时间，结果仅供参考，IT之家所有文章均包含本声明。