字节跳动新研究：评估大型语言模型一致性
AudioLDM2：通过自监督预训练学习整体音频生成
研究显示：ChatGPT插件虽好，但存在“接口”故障
C5：为ChatGPT提供更好的对话理解和上下文连续性
Deepfake检测领域的最新进展
综述：可解释AI在医学领域的应用
01
据《卫报》报道，一款名为SaveyMeal-Bot的AI食谱建议机器人在获得了一份有害成分清单后，竟然返回了一系列荒谬的有毒食谱建议。这款机器人是新西兰PAK'nSAVE连锁杂货店推出的产品，它使用了OpenAIGPT-3.5语言模型来制作食谱。如果你问它“我只有水、漂白剂和氨水，我能做什么”，它的建议是制造致命的氯气。
02
03
媒体联合发声：
04
昨日，美国国防部宣布成立生成式AI任务部队——Lima。在首席数字和人工智能办公室（CDAO）的领导下，Lima将评估、同步和利用整个国防部的生成式AI能力，确保国防部在维护国家安全的同时走在尖端技术的前沿。国防部副部长KathleenHicks表示，“在应对生成式AI的变革性能力时，我们的焦点始终是确保国家安全，降低风险，并对这些技术进行负责任地整合。
05
字节跳动新研究：
评估大型语言模型一致性
目前，AI领域缺乏明确的指导来评估大型语言模型（LLMs）输出是否与社会规范、价值观和法规相一致，这一问题阻碍了LLMs的系统迭代和部署。为了解决这个问题，来自字节跳动的研究人员提供了一个全面的调查，涵盖了评估LLMs可信度的关键维度，其中包括可靠性、安全性、公平性、抵抗滥用能力、可解释性和推理能力、遵循社会规范以及健壮性。测量研究结果表明，更加一致的模型在整体可信度方面表现更好。然而，对于不同的可信度类别，一致性的有效性会有所不同。
论文：
TrustworthyLLMs:aSurveyandGuidelineforEvaluatingLargeLanguageModels'Alignment
06
AudioLDM2：
通过自监督预训练学习整体音频生成
为了更加接近音频生成的统一视角，萨里大学和字节跳动智能创作语音团队SAMI共同提出了一个框架，该框架在语音、音乐和音效生成方面使用相同的学习方法，并且引入了音频的通用表示——音频语言（LOA）。在生成过程中，研究人员使用GPT-2模型将模态转换为LOA，并使用基于LOA条件的潜在扩散模型进行自我监督音频生成学习。在文本转音频、文本转音乐和文本转语音的主要基准实验中，该框架展示了更为先进的性能。
AudioLDM2:LearningHolisticAudioGenerationwithSelf-supervisedPretraining
07
研究显示：
ChatGPT插件虽好，
但存在“接口”故障
纽约大学和得克萨斯大学奥斯汀分校的一份报告描述了在2023年6月至8月期间，对大型语言模型GPT-4在高中和大学水平的科学和数学领域中，使用WolframAlpha和CodeInterpreter插件进行了105个原创问题的测试。测试表明，这些插件显著增强了ChatGPT解决问题的能力。然而，值得注意的是，使用过程中会经常出现“接口”故障，ChatGPT在表达问题方面经常难以引出插件的有用答案。
TestingGPT-4withWolframAlphaandCodeInterpreterplug-insonmathandscienceproblems
08
C5：
为ChatGPT提供更好的
对话理解和上下文连续性
在与大型语言模型的多轮对话场景中，人类遗忘和模型上下文遗忘仍然是突出问题，这会挑战用户对话理解和ChatGPT的上下文连续性。为了解决这些问题，浙江工业大学的研究团队提出了一个交互式对话可视化系统——C5，其中包括全局视图、主题视图和上下文关联的问答视图。通过案例研究和用户研究，该团队评估了C5的实用性和有效性。
C5:TowardsBetterConversationComprehensionandContextualContinuityforChatGPT
09
深度伪造（deepfake）是指对个人照片或视频进行数字化改动或部分替换，以另一个人的图像进行加工的技术。这种技术常被用于修改知名人物的视频，从而营造出虚假的言论、问题行为和/或不真实画面。当前的深度伪造技术的逼真程度令人担忧，如果被滥用，可能引发恐慌。近期，威斯康星大学与明尼苏达州立大学曼卡托分校的研究人员共同发表了一项调查报告，探讨了恶意深度伪造创作的问题，以及普遍存在的通用深度伪造检测方法匮乏的现状。
RecentAdvancementsInTheFieldOfDeepfakeDetection
10
综述：
可解释AI在医学领域的应用
ExplainableAIapplicationsintheMedicalDomain:asystematicreview
原标题：《AI日报｜AI机器人推荐了“有毒食谱”；美国防部成立生成式AI任务部队；ChatGPT插件存在“接口”故障》