，流行的人工智能（AI）图像生成器的基础数据库中隐藏着数千张儿童图片(CSAM)。作为对这一研究的回应，一些
斯坦福大学的这个监督团队与加拿大儿童保护中心以及其他反虐待慈善机构合作，在巨大的AI 数据库 LAION 中发现了超过 3200 张涉嫌儿童的图片，并向执法部门报告了原始照片链接。其中 1000 多张涉嫌图片被确认为儿童材料。
研究者们写道：「我们发现即使在 2023 年晚些时候，拥有 LAION-5B 数据集也意味着拥有数千张非法图片。」
对此，LAION 在斯坦福互联网观察站报告发布前夕做出了迅速反应，宣布暂时撤下其数据集。LAION（代表非营利性的大规模人工智能开放网络）在一份声明中表示，「我们对非法内容采取零容忍政策，出于谨慎考虑，我们已撤下 LAION 数据集，以确保在重新发布之前它们是安全的」。
尽管这些图片只占 LAION 约 58 亿张图片指数的一小部分，斯坦福团队表示，这可能影响 AI 工具生成有害输出的能力，并加剧对多次出现的实际受害者的先前虐待。
研究人员表示，这些图片还使 AI 系统更容易生成虚假儿童的逼真和明确的图像，以及将社交媒体上完全穿着衣服的真实青少年的照片转换为裸体照片，这让全世界的学校和执法部门感到震惊。直到最近，反虐待研究人员认为，一些未经检查的 AI 工具产生虐待儿童的图像的唯一方式是通过结合两类在线图片——和对孩子的无害照片。
斯坦福互联网观察站呼吁采取更为激进的措施。其中之一是要求所有基于 LAION-5B（包含超过 50 亿张图像文本对）构建训练集的人「删除它们或与中间商合作清理材料」。另一个措施是实际上让去年推出的 Stable Diffusion 的旧版本从互联网上最黑暗的角落消失。
斯坦福互联网观察站的首席技术官 David Thiel 表示：「合法平台可以停止提供它的下载，特别是如果它们经常用于生成虐待图像并且没有阻止它们的保障措施。」
解决这个问题并不容易，可以追溯到许多生成性 AI 项目「实际上被匆忙地推向市场」并且由于该领域竞争激烈而广泛可用，Thiel 说。
「将整个互联网的抓取数据集用于训练模型本应该限于研究操作，如果有的话，而不是在没有更多严格关注的情况下开源，」Thiel 在接受采访时说。
影响 LAION 数据集开发的一个主要 LAION 用户是总部位于伦敦的初创公司 Stability AI，该公司制作了 Stable Diffusion 文本到图像模型。根据斯坦福报告，Stable Diffusion 的新版本已大大降低了生成有害内容的可能性，但去年推出的旧版本（Stability AI 表示它没有发布）仍然嵌入到其他应用程序和工具中，并且仍然是「生成明确图像的最受欢迎的模型」。
「我们无法撤回这一模型。这个模型已经在许多人的本地机器上被人们所拥有，」加拿大儿童保护中心信息技术主任 Lloyd Richardson 说。该中心运营着加拿大网络性剥削举报热线。
「这些过滤器阻止了不安全内容到达模型，」该公司在一份准备好的声明中说。「通过在内容到达模型之前将其移除，我们可以帮助防止模型生成不安全内容。」
LAION 本周表示，它开发了「严格的过滤器」来检测和移除非法内容，然后才发布其数据集，并仍在努力改进这些过滤器。斯坦福报告承认，LAION 的开发者试图过滤掉「未成年」的露骨内容，但如果他们早些时候与儿童安全专家协商，可能会做得更好。
许多文本到图像生成器都以某种方式从 LAION 数据库派生而来，尽管并不总是清楚是哪些生成器。Dall-E 和 ChatGPT 的开发商 OpenAI 表示，它没有使用 LAION，并对其模型进行了微调，以拒绝涉及未成年人的色情内容的请求。
Google 基于 LAION 数据集构建了其文本到图像 Imagen 模型，但在 2022 年决定不公开发布，原因是对数据库进行的审计「发现了大量不当内容，包括色情图像、种族主义辱骂和有害的社会刻板印象」。
LAION 的创始人是德国研究员和教师 Christoph Schuhmann，他今年早些时候表示，公开提供如此庞大的视觉数据库的部分原因是为了确保 AI 发展的未来不受少数强大公司的控制。
11.11云上盛惠！海量产品 · 轻松上云！云服务器首年1.8折起，买1年送3个月！超值优惠，性能稳定，让您的云端之旅更加畅享。快来腾讯云选购吧！
根据一份新报告，人工智能图像生成器的基础中隐藏着数千张儿童淫秽照片，该报告敦促公司采取行动解决技术中的缺陷。这些图片使得AI系统更容易生成逼真的虚假儿童图片，并将社交媒体上全副武装的真实青少年照片转化为裸体照片，这对学校和公共安全构成了威胁。在模型流通之后也有减少滥用的机会。
本文将跟大家分享一个有利可图的AI副业，特别适合初学者，涉及一个鲜为人知的AI生成器。你可以几乎不费力地开始自己的时尚系列。如果你对时尚图案有兴趣，不妨尝试一下这个新的副业，说不定你也能在网络平台上赚取不错的收益。
亚马逊在re:Invent大会上宣布推出Titan图像生成器，这标志着人工智能图像生成领域取得了显著进展，并为客户提供了在竞争激烈的科技领域中增强法律保护的选择。Titan图像生成器成为亚马逊Bedrock云计算部门AWS中Titan系列人工智能服务的一部分，为用户提供了一种通过文本提示生成原创图像的新方式，同时还可以编辑现有图像，例如更改或删除背景。VentureBeat的使命是成为技术
MIT和Adobe的研究人员最近提出了一种新颖的人工智能方法，称之为分布匹配蒸馏，该方法旨在将扩散模型转化为一步图像生成器，从显著提高图像生成的效率和质量。据称他们的一步生成器在生成逼真图像方面不仅与StableDiffusionv1.5相媲美速度更快30倍。这一研究为图像生成领域带来了崭新的可能性，通过创新的方法，使得生成模型在效率和质量方面都取得了显著提升。
在谷歌推出Gemini之后，Meta也不甘示弱，在网络上推出了基于其Emu图像合成模型的免费独立AI图像生成器网站——ImaginewithMeta，允许用户通过自然语言描述来生成图像。ImaginewithMetaAI网站截图Meta使用了11亿张Facebook和Instagram上公开可见的图片来训练这个AI模型，该模型可以根据文本提示渲染新图像。根据你的态度以及你对AI图像合成速度的看法，这种乐趣可能会被同等程度的关注所
英国一组关注儿童虐待和技术的专家警告称，英国学生正在利用人工智能制作不当儿童图像。据英国网络安全中心主管EmmaHardy表示，一些学校首次报告称学生正在使用AI生成技术创作合法构成儿童的图像。互联网观察基金会警告称，AI生成的儿童图像“威胁要淹没互联网”，许多现在的图像如此逼真，以至于即使对训练有素的分析师来说也难以区分真实图像。
StabilityAI近日推出了名为StableVideoDiffusion的视频生成模型，该模型基于该公司现有的StableDiffusion文本转图像模型，能够通过对现有图像进行动画化生成视频。与其他AI公司不同，StableVideoDiffusion在开源领域提供了少数几个视频生成模型之一。这也是公司面临的另一次挫折，因为Newton-Rex曾在稳定AI音乐生成工具StableAudio的推出中扮演了关键角色。
英伟达最近宣布了NVIDIANeMoSteerLM技术作为英伟达NeMo框架的一部分。这项技术使用户能够在推断过程中控制大型语言模型的响应。这个新的开源数据集为开发人员提供了一个有用的工具，帮助他们更好地理解和应用NVIDIANeMo框架中的SteerLM技术。
随着每天更多的塑料垃圾进入海洋，研究团队近日开发出一种新的人工智能模型，能够在卫星图像中更准确地识别海洋中的塑料污染，即使图像被云层遮挡或天气条件不佳。我们社会对塑料产品的依赖程度很高，未来塑料垃圾的数量预计会增加。这些信息可用于改进海洋垃圾的漂移估计模型。
谷歌推出多模态大模型Gemini1.0，具备处理文本、代码、音频、图像和视频等多种信息的能力，分为Ultra、Pro和Nano三种规模，性能超越领先模型，GeminiUltra在多任务语言理解中首次超越人类专家水平，计划明年初向开发者推出。苹果发布MLX模型框架苹果公司悄悄发布了MLX模型框架，表明可能加大在人工智能领域的投入，推动生成式人工智能应用程序的发展。与传统方法相比，FaceSt
Nutritionai AI是一款智能营养管理应用，为用户提供个性化的营养方案和健康建议。用户可以制定自己的营养计划，获取定制化的饮食建议和健康指导。该应用整合了营养学知识和人工智能技术，帮助用户更好地管理饮食，提高健康水平。
Chat2Design 是一款基于 AI 技术的设计助手可以快速生成 UI 元素，提供持续的设计灵感。用户可以通过输入文本，将其转化为高质量的设计，大大缩短设计时间。Chat2Design 还支持导入以前生成的设计，轻松调整或混合元素，创造出独特的设计。用户可以定制输出，如颜色、尺寸和复杂布局。同时，Chat2Design 还提供实时设计灵感，帮助用户克服创作障碍。
Facememe是一款使用AI技术，能够让用户瞬间变身流行的表情包角色的免费产品。上传照片后，即可快速生成表情包图片，照片将在24小时后自动删除。产品定位为提供快速有趣的表情包生成体验。
EmployPlan是一款能够增强团队力量、简化就业规划的应用。通过简单的几次点击，监控员工的发展情况，将人才的技能与项目需求进行匹配，并快速规划招聘流程。它集所有功能于一身，为您带来更便捷的就业规划体验。
AI Roasts My Career是一个由ChatGPT驱动的产品，可以帮助用户发现关于他们职业的真实问题，这些问题HR和朋友们可能会太客气不说出口。产品提供了Elon Musk、Donald Trump、Santa Claus、Logan Roy和The Rock等多个人物来进行嘲讽，让用户能够在娱乐中获取职业发展的真实建议。用户只需要提供LinkedIn的URL，就可以获得一个充满冷嘲热讽的职业分析报告。
Threado是一款基于人工智能的支持助手，帮助您为客户和社区成员提供最佳支持体验。它提供即时支持、行动洞察和强大的工作流程，助您提供出色的支持体验。 Threado AI可以轻松地使用社区对话、帮助文档URL、文档或PDF来进行训练。它能够无缝集成到您的Slack工作区、Discord服务器或嵌入到您的网页中，随时随地提供即时满足感。
ZenPrompts 是一款强大的提示编辑器，帮助您创建、优化、测试和分享提示。通过比较多个模型输出、展示提示作品集、实验提示版本、与他人分享提示、使用动态变量优化提示结构和添加注释记录，ZenPrompts 让您成为专业的提示工程师。
SenseChat with AI Girlfriend 18+ 是一个专为成年人设计的聊天工具，提供深入、有意义的对话。它能真正理解并与你的欲望共鸣，为你打造独一无二、无与伦比的天体验。
KinesteX AI是你的个人健身助理，利用人工智能提升你的锻炼效果。通过跟踪你的动作并实时反馈，KinesteX确保你充分发挥健身效果。定制化的训练计划满足你的特定需求，帮助你减肥、增肌或改善整体健康。KinesteX提供了实惠可靠的解决方案，让你随时随地享受高质量的健身体验。
GPTURER是一个简单易用的解决方案，通过扫描网站来生成全面的知识数据集。只需两个步骤即可简化ChatGPT助手的创建：创建一个网站扫描任务，并下载集成的知识数据。使用GPTURER，您可以输入网站URL，让我们的系统仔细浏览和提取必要的数据，包括文本、图片、URL和结构元素。当我们的系统仔细扫描网站时，它会将提取的数据编译成结构化的输出文件，一旦扫描完成，您就可以立即下载这些文件。利用这些生成的输出文件作为基础，轻松创建个性化的ChatGPT助手，无缝嵌入提取的内容，以增强其功能。我们提供三种定价方案，Starter（€5）、Basic（€20）和Premium（€50），根据您的需求选择合适的套餐。GPTURER能够将网页内容转换为Chat GPT智能，为您提供更强大的助手功能。
Image to Caption Tool是一款通过人工智能提供的快速生成图片标题的工具。它可以帮助您轻松地增强视觉叙事能力，节省时间和精力。您只需上传或拍摄一张图片，点击生成标题，即可在几秒钟内获得合适的标题。
ReelCraft是一个能够从简单的文本提示中创建沉浸式动画视频的工具。它让你的想象力成为画布，AI成为艺术家。ReelCraft解决了动画制作的复杂、昂贵和耗时的问题。它能够轻松将你的想法转化为引人入胜的动画故事。ReelCraft提供一致的角色生成，具有丰富的功能，并可适用于各种场景。
muse.ai是一款下一代无广告视频托管平台，包含强大的嵌入式视频播放器和最先进的视频搜索功能。它提供丰富的功能，包括存储、分享、搜索、分发、定价和订阅等。muse.ai采用人工智能技术，支持语音识别、视频内容搜索和自动生成字幕等功能。定价方案灵活多样，适用于不同规模和需求的用户。
Gali AI:定制AI聊天机器人，提升网站转化率，支持客户服务，与文档互动
Gali是一个基于您的数据训练的自定义AI聊天机器人平台，可以实时和全天候回答问题。与您的后端连接，能够与用户互动并提供定制的功能。基于OpenAI的GPT 4，支持多种语言。支持Zapier完全集成。
BotStacks是一个聊天解决方案，通过使用机器人堆栈和多功能聊天解决方案，为对话增添动力，无缝设计、构建和部署AI助手。它提供了无代码机器人构建、AI模型集成、聊天界面定制、沙盒原型、集成自有机器人等功能。BotStacks可应用于各行各业，如客户支持、电子商务、旅游酒店、人力资源、游戏、法律服务等领域。
