三星公司引入ChatGPT不到20天，发生了三起半导体机密资料外泄事件，随后要求员工不得在工作场所使用生成式人工智能；由于数据隐私问题，意大利对ChatGPT涉嫌违反数据收集规则开展调查，并暂时限制OpenAI处理意大利用户数据。
人工智能、区块链等前沿科技，在加速与各行业及日常生活融合的同时，也面临着“一半是海水，一半是火焰”的现状。即便是中立性的技术，如果使用不当或者滥用，将衍生出隐私泄露、金融诈骗、虚假信息等诸多问题。
“今年印发的《数字中国建设整体布局规划》，将筑牢可信可控的数字安全屏障，和构建自立自强的数字技术创新体系，共同列为强化数字中国的两大关键能力。”在2023外滩大会见解论坛上，中国科学院院士何积丰表示，这表明了数字安全对建设数字中国的关键作用。
当前，上海正以更大力度推动具有全球重要影响力的科技金融中心建设向更高能级迈进，金融与科技交织互动、相互促进，开拓更广泛的价值空间。
中国电信研究院副院长李安民，去年作为上海市政协委员，提交了“打造国际数字资产之都”提案。他认为，互联网最早的特点是信息共享，后来是知识共享，发展至今已经是价值共享。“美元系统是对价值进行比价，资产是价值的核心要素。数字资产表现为虚实资产的交融，对虚实资产的比价，将会是未来金融的核心特征。”
通过金融创新，将数据资源上升为生产性的数字资本，有助于释放其内在价值。但，风险与泡沫也可能并存。“比如，源头数据的保护、安全、质量控制风险，以及合规性与消费者保护等。”国家金融与发展实验室副主任杨涛认为，要从宏观和微观层面，探索构建数字资产全面风险治理与防控机制，挤出资产化的“泡沫”，并避免一哄而上。
关于构建可信AI的重要性，还有很多贴近生活的例子，比如电信网络诈骗。智能终端的普及，加速了人们获取新消息的速度，但信息流的冲击，也给黑灰产提供了充足的素材。
2022年，电信网络骗局除了对传统诈骗花样的“升级改造”，更有利用社会热点问题设下的新骗局。凭借热点话题包装的电诈糖衣、快速更新的洗脑剧本，还有套路叠加的风险操作，令人防不胜防。
“当前热议的Web3.0，以去中心化为特征，给监管带来了更大的挑战。区块链、P2P加密等技术，黑灰产团伙早就开始使用。”公安部第三研究所网研中心副主任胡永涛，用两个字来形容电诈团队的数字能力——震惊。
比如洗钱，从1.0版本的利用手机黑卡、银行黑卡搭建洗钱“水房”，到2.0版本的多种二维码合一的“聚合支付”，到3.0版本的虚假跨境贸易对冲洗白资金，到4.0版本的二维码“跑分”，再到5.0版本的数字货币“跑分”，前后不过数年，给传统侦查理念、经验带来巨大冲击。
“AI和以往的技术不同，它具备快速的学习能力，核心就是带有生命的。这就意味着，AI的发展，并不一定会完全如人类预想。”在论坛上，专家们还强调，不仅要监管AI搭建的系统，还要重视AI本身。
因为，算法的高度复杂性和不确定性、模型运行的强自主性，可能导致“黑箱”问题和不可解释。数据中已经存在的偏见歧视，可能被算法进一步固化，导致生成的智能决策偏激。
又或者，数据的收集、使用、共享，可能导致对隐私的侵犯和泄露。三星公司就是一个案例，用户输入的敏感数据会被大语言模型“记住”，从而导致数据泄露。
“人工智能在突飞猛进中，带来了风险和隐患，特别是随着ChatGPT引领的生成式AI席卷全球，AI安全风险已经从未来挑战，变成需要政产学研共同应对的急迫威胁。”云安全联盟大中华区主席李雨航表示，该组织的专家们曾向联合国科技委提出，鉴于高智慧AI在未来的更强大能力，并可能拥有自我意识，应参考原子能对AI进行监管。
今年7月，李雨航参加人工智能造福人类全球峰会时，联合国秘书长提出，将考虑明年成立类似国际原子能机构这样的AI治理机构，高级别咨询委员会正在筹备。“AI研发既不能因噎废食，也不能坐视安全不顾。业界需要在全球范围内对风险进行管控，优秀的中国方案应该成为全球的样板。”李雨航说。