上游新闻
更多的资讯等着你...
立即下载
上游新闻

汇聚向上的力量

立即下载

当AI开始画画和“摄影”:不仅娱乐人,还会愚弄人

第一财经2023-03-22 22:09

第一财经消息,人工智能势不可挡。

本周,包括微软、谷歌、英伟达、Adobe在内的全球多家科技巨头公司都不约而同地发布或开放生成式AI新技术,其中微软和Adobe发布了与图像生成相关的新应用。

然而,AI不仅可以帮助人类,也会被利用来戏弄人类。

例如,近日互联网上流传着美国前总统特朗普被捕的照片,实际上这些照片都是由人工智能生成,并不是真实发生的事件。

3月18日,特朗普曾在社交媒体上表示,他将在当地时间21日被逮捕,并多次呼吁支持者举行大规模抗议。但是由于法律程序问题,特朗普并未如期“被捕”,但从当天开始,互联网上就出现了各种使用人工智能合成的特朗普被捕画面,“以假乱真”。

图片来源:AI绘画工具Midjourney。

微软、Adobe推出AI画笔

以ChatGPT为代表的“高智商”AI,正在掀起新一轮的AI革新。英伟达创始人CEO黄仁勋将这一轮技术革新称为“AI的iPhone时刻”。他认为,AI可以帮助人类创建初稿、建立初步的设计,帮助人类打开“脑洞”,激发人类的创造力,提升生产效率。

谷歌当地时间21日也正式在英国和美国开放对其AI聊天机器人Bard的访问权限,用户可以加入等候名单以访问Bard。Bard称将能帮助用户概述和撰写论文草稿,以及根据冰箱里的食材制作创意午餐等。

谷歌、微软、脸书母公司Meta和其他科技公司正在竞相开发和部署人工智能工具。上周,在谷歌宣布将人工智能引入包括Gmail、表格和文档等生产工具之后,微软也加强了人工智能辅助搜索功能,并宣布将其生成式人工智能技术添加到办公自动化应用程序中,包括Word、PowerPoint和Excel。

微软21日发布的最新工具命名为“Bing Image Creator”,将允许必应(Bing)和Microsoft Edge浏览器的用户使用OpenAI的DALL-E创建文本提示图像,用户可以通过语言文字生成图像,例如要求画一张“宇航员穿过向日葵星系”的图片。

微软的这一新功能将以预览版的形式提供给用户。微软表示,将首先在Bing搜索引擎的“创意模式”中推出,并最终完全集成到Bing的聊天体验中;在MicrosoftEdge上,图像生成器将在浏览器的搜索栏中可用。

另一家最新进军生成式AI领域的科技公司是Adobe。同样在21日,该公司推出了一个名为Firefly(“萤火虫”)的应用,专注于创建图像和文本效果,用户可以通过输入命令快速修改图像,该应用将被整合至现有的产品套件中。

在一个示例中,Adobe展示了如何将一张夏日场景的照片更改为冬日场景,用户只需要输入“将场景更改为冬日”,无需进行任何编辑就可以将图片完成更改。

去年Adobe斥资200亿美元收购了设计工具Figma,未来将会向更广泛的AI进行转型。

上周,百度在发布类ChatGPT的AI聊天机器人文心一言时,现场演示了AI作画功能,不过此后网友测试文心一言的图像生成功能后发现AI对于一些特定名词的理解还不准确,这导致千奇百怪的图片在网上广泛流传。

所有画师都会被AI替代?

但AI的能力已经让人类惊叹。最近有一张情侣照在网上引起了轩然大波。一对穿着90年代服装的年轻人坐在屋顶上,背景是北京的老旧楼房,这张看起来与真人没有任何差异的图片,竟然是由AI一键生成!让网友大呼“人类画师要失业”了。

这张图片在网上迅速走红后,背后的AI绘画工具Midjourney V5也引起巨大关注。该软件不仅可以生成现代风格的图像,还可以模拟不同年代和地域的场景。比如,“一个穿着汉服、手持扇子、坐在亭子里看书的女子”,或者“一个穿着牛仔裤、背着吉他、走在纽约街头的男孩”;它还可以根据用户指定的风格参数来调整图像效果。

“我们觉得结合语言的生成模型代替的是传统的各类资产库,就好像大语言模型(LLM)之于搜索引擎、文本转图片(texttoimage)之于‘视觉中国’。”影眸科技首席技术官张启煊对第一财经记者表示,“ChatGPT已经把搜索搅了个底朝天,Stable Diffusion之类的技术也在冲击传统图库;接下来就是3D资产库,从传统的关键词匹配的‘搜索’,转换为‘生成’。”

Stable Diffusion和OpenAI的DALL-E一样,都提供生成式AI图像产品,Midjourney就是基于Diffusion技术。

张启煊表示,他们正在进行文本转3D的下一代技术研发,现在已经可以实现直接将文本生成3D数字人资产,预计于本月底上线,可以用于影视游戏当中。

他认为,尽管最近一波生成式AI的发展都具有颠覆性,但Adobe这类工具仍然有存在的必要性,因为纯文本的隐式控制的可控性不足;但是需要结合生成模型进行革新。

资深游戏行业人士、丰厚资本创始合伙人谭群钊对第一财经记者表示:“产业正在发生剧变。我们认为生成式AI的出现一定会全面改变创意文化产业,美术制作的工具链、工作流程、人员配置都会发生变化。我们投资的公司也在研发AI作画的平台。”

不过谭群钊认为,虽然生成式AI将极大地提升作画的效率,但是并不意味着未来所有的画师都会被AI替代。“首先需要高级的画师做出更有风格的作品,其次是需要普通画师去使用AI工具,得到更实用的作品。”他对第一财经记者表示,“甚至还需要初级画师去修改AI作品,让它看起来更接近于人的作品。”

欧盟AI立法难度陡增

和ChatGPT一样,生成式AI图像背后也一直存在伦理方面的隐忧,这些担忧涉及模型倾向于“产生幻觉”的看似合理但不准确的信息;此外,人们还担心大模型会窃取艺术家内容、重新生成并在未经创作者授权或许可的情况下进行展示。

生成式AI的突然火爆也令欧盟正在草拟的人工智能法案难度陡增。虽然行业预计年底前欧盟有望就人工智能法案达成协议,但有人担心该立法可能因其复杂性和意见不统一延迟到明年推出。

据透露,为了解决像ChatGPT这样无穷无尽的应用程序的监管问题,预计欧盟立法者将会引入一个新的类别,即“通用人工智能系统”(GPAIS),以描述可以适应执行多种功能的AI工具。但目前尚不清楚是否所有的GPAIS工具都将被视为“高风险”。

参观者在第五届进博会技术装备展区的人工智能专区体验。新华社资料

技术的发展与监管始终是一对矛盾体,欧盟立法讨论也引起了从小型初创公司到大型科技公司的担忧。他们认为,监管在立法的同时也应避免对技术发展的束缚。行业机构appliedAI最近的一项调查显示,51%的受访者预计人工智能法案一旦推出,将导致AI开发活动放缓。

音频流媒体平台Spotify(声田)的首席执行官丹尼尔·艾克(DanielEk)认为,生成式AI的技术是一把双刃剑。Spotify最近推出了自己的AIDJ,能够管理个性化音乐播放列表。“我们必须考虑很多事情。”艾克说道,“我们的团队正在与监管机构积极合作,努力确保这项技术尽可能多地受益,并尽可能安全。”

在中国,今年1月10日起,首次针对深度合成技术的监管规定——《互联网信息服务深度合成管理规定》已正式实施。清华大学国强教授、智能产业研究院首席研究员聂再清对第一财经记者表示:“如果相关法规针对生成式AI在文字内容生成方面没有明确的规定,那么随着ChatGPT这类技术的应用更加广泛,未来可能需要重新审视在包括文章、论文、广告等生成内容方面的审核。”

小米前副总裁、安全与隐私委员会主席崔宝秋也对第一财经记者表示:“技术监管是一场永恒的攻防对抗博弈。深度合成技术的服务方在提供服务的同时,会产生多方面的风险,除了深度伪造的风险外,还包括自动生成内容文本、图像或者视频带来的版权和著作权的侵权风险,信息安全和隐私泄露风险以及敏感内容的风险。”

崔宝秋建议,未来出台的相关法规中,应该强制要求服务提供方对于哪些内容是深度合成的进行标注;对于技术提供方而言,则应从底层技术开始推进相关标准的建立,在算法上保证计算模型的公平性。

原标题:当AI开始画画和“摄影”:不仅娱乐人,还会愚弄人

编辑:杨四海

责编:吴忠兰

审核:冯飞

责编杨四海
免责声明:上游新闻客户端未标有“来源:上游新闻-重庆晨报”或“上游新闻LOGO、水印的文字、图片、音频视频等稿件均为转载稿。如转载稿涉及版权等问题,请与上游新闻联系。
关心一下,为你推荐更多
举报
热门评论

还没评论 快来说两句

下载上游新闻看更多评论
相关新闻
Top