打开网易新闻 查看更多图片

☆ 我国媒体的媒介制度是典型的“事业单位,企业管理”,讲究的就是“站稳思想立场”“传递主流价值观念与意识形态”。换句话讲,媒体提倡的、批判的,就是当前需要关注和警惕的重点社会现象。因此,每年新传考研的押题思路都必须抓住主流媒体的基本观点风向。前有《人民日报》批评“饭圈乱象”,后有新华时评发文要求“整治网络暴力,共建清朗网络家园”,都成了当年试卷上的热门考点:“如何治理‘饭圈乱象’”“网络暴力形成原因与表现”“网络暴力的治理举措”等。

☆ 继后,10月22日,新华社再次发布社论《警惕“AI污染”乱象》。随后,新京报传媒研究院就此现象作出了进一步分析(),认为AI进入新闻业后会在新闻真实、版权归属等方面给新闻生产将造成较大的困扰,同时,对AI的应用边界与生产内容的辨别能力提升作出了相应建议。

☆ 主流媒体对“AI污染”情况的关注,恰恰说明由ChatGPT为代表的生成式人工智能技术正在改变传统意义上以人为主导的内容生产格局,不仅为当前的文化创作、舆论表达带来新的机遇和挑战,也将原本就以公共信息生产为核心的新闻业推向了新一轮的数字化、智能化转型风口。在10月刚刚举办的中国新媒体大会上,多位业界人士在新质生产力、数智媒体平台等问题上多次强调,也正说明了人工智能在传媒行业发展过程中的技术价值。

☆ 相对应的,自然也就是算法、智能技术背后凸显的伦理问题与治理方法,尤其需要关注“何为‘AI污染’”“如何治理生成式人工智能技术带来的问题”等方面出题趋势。

打开网易新闻 查看更多图片

Generative AI...

生成式人工智能✶

今年必须水灵灵地考✶

@TuTouSuo™️

AIGC【】

【定义】AIGC即Artificial Intelligence Generated Content,指利用人工智能生产的内容,是人工智能技术持续发展的产物,预示着内容创作领域整体变革的可能性。

【技术支撑】随着人工智能深度学习模型的迭代发展以及媒介化社会下用户网络痕迹的指数性增加,诸如ChatGPT、Sora、MidJourney等人工智能应用迅速发展,为AIGC的研发、迭代提供了技术条件。在元宇宙和web3的投资浪潮下,人工智能与AIGC还会迎来进一步的革新。

【优势】AIGC生产的优势在于可以实现快速的内容生产,可以根据关键词和数据分析制作出定制内容。目前,AIGC已经运用到了新闻媒体、金融服务、法律服务、医疗健康等领域。

【问题】不过,AIGC也面临着许多问题与争议。一方面,AIGC本质上仍是对于人类生产内容的组合拼接,容易出现版权方面的争议,包括AI创作的内容版权也难以界定;另一方面,在绘画、诗歌等创造性内容领域,同质化但可以快速量产的AIGC也在不断挤压着创造者的生存空间。

【反思】进一步明确AIGC的应用边界,寻找人机协同创作的可能性,是当下研究AIGC的重要方向。

“AI污染”乱象的具体表现

【新华社在《警惕“AI污染”乱象》中谈到,“AI污染”主要表现在通过生成式人工智能技术制造谣言、麻醉公众认知、反噬AI产业发展,以及触犯法律、道德伦理问题等方面。这些内容对于学习、理解AIGC在当前存在问题和矛盾有着重要作用。为了更方便大家背诵记忆,我以这篇文章为参考,将具体内容写成”小标题+论述“的表达形式,可以用在各类探讨AIGC负面情况的题目中!非常好用!】

【论述逻辑参考:“AI污染”是一种社会情况,需要从社会行动者、平台组组织企业、经济产业或社会环境等多个层次入手,逐一理清它对于不同对象造成的“污染”情况。】

一、麻醉公众认知,忽视人类主体意义

媒介技术哲学研究者唐·伊徳在谈到技术与人的关系时提出“它异关系”,代表人造物被赋予拟人、仿真的意义,媒介被当成是能动的对话客体加以认识。生成式人工智能技术正在让ChatGPT等算法程序拥有与人类相同的情境识别与对话聊天功能,并能够起到“知识搜索引擎”与“自动化写作服务”的作用,为使用者提供丰富的知识内容、解决繁琐的内容生产问题。 由此很容易导致公众过度依赖算法技术进行内容创作,产生麦克卢汉所忧虑的“媒介即人的延伸,延伸意味着截除”的情况,即创作与思考能力下降,出现为算法所“麻醉”的不良后果。

另外,将算法看作是拥有表达与思考能力的存在,也有可能造成“去人类中心化”的传播思潮,导致人的主体性持续下降,甚至忽视真实人类交流、情感沟通的情况。

二、滥用AI生成技术,扰乱平台内容秩序

进行AI创作是智能化媒介时代的主流趋势。谷歌开发的Gemini可以帮助创作者自动化生成文本信息,百度智能搜索引擎可以迅速对中文互联网中的知识数据进行处理并为使用者提供答案。同样,kimi、豆包等生成式人工智能软件允许使用者输入关键词,并为其提供学术、商业、医疗等不同信息内容创作服务。这些AIGC的应用场景看似能够提高信息生产的效率,实际上却存在技术滥用、误用的情况。

尤其是算法程序的数据抓取不清晰、来源不透明,有可能导致信息内容持续冗杂,以“错误观点代替事实情况”,并持续影响平台提供的信息质量,反噬AI产业的良性发展。另外,平台媒体诉求的商业逻辑是通过平台内容创作者的优质内容生产吸引更多用户,并为其提供相应服务。AIGC的滥用可能造成模板化的信息产品替代灵感思考,造成平台秩序失衡,内容创作价值密度持续下滑。

三、制造大量虚假信息,存在法律与伦理困局

美国调查机构“新闻守卫”称,自2023年5月以来,生成虚假文章的网站数量激增1000%以上。AIGC不仅能够为内容创作提供便利、提高效率,也在谣言传播中扮演着重要作用,尤其是在美国总统大选等民主问题上,社交机器人通过自动化生成大量虚假信息或具有导向性的偏见内容,甚至能够左右平台媒体中的公众言论与观点,使公众的民主参与过程更加复杂。

同时,由于规范制定与技术发展的非同步性,前者的后置把关特点也使得AIGC常常陷入法律与伦理困局。一方面是内容创作的版权归属难以界定,可能出现的版权侵犯问题也始终未能得到解决;另一方面,媒介伦理学家克里斯琴斯指出:“传统的伦理方法均已不能适应数字技术以来的传播伦理问题。”智能伦理的道德底线也仍然处在协商与磨合阶段。如何让AI融入社会伦理系统并受到约束,已成为智能媒介时代的又一难题。

算法治理【

【定义】 作为网络治理工作的重要组成部分,算法治理是以个性化信息匹配活动或其他运用到算法技术的程序、平台为核心做出的规制,防止数据隐私侵犯、算法隐性操控等情况出现。

【现状】 实际上,作为智能媒体的基础运作逻辑,算法已不可避免地成为公众信息环境塑造、公共舆论与政治引导的核心影响要素,甚至直接关系到社会管理与数字经济发展。

【对策】 近年来,网信办继续加码算法综合整治,要求各大网络平台在舆论话语的主流化引导与信息技术的规范使用、平台垄断和用户数据内容管理等方面作出相应的调整和改进。同时,作为网络舆论环境的治理手段之一,算法治理还要求提升算法的内容辨析能力,对虚假信息、网络谣言进行识别。最后,算法必须承担起相应的公共责任,以更丰富的场景和数据信息洞察,为公众提供多方观点与多层次的内容传播体系。

如何治理“AI污染”乱象


【“加大对AI学习和生成机制的源头治理、加强对AI生成内容的筛查监管、提高用户对AI生成内容的辨别能力”,以上三个要点是新华社评论文章中提到的对于“AI污染”乱象的防治举措,非常适合用在各类人工智能技术的反思与治理问题上。这里也同样写成更好记忆的论述模板,方便大家学习背诵啦】

【论述逻辑参考:我国明确提出过网络治理的手段是“由政府主导,企业和公民协作,通过相关法律法规的出台、国家行政部门的调整、媒体的舆论工作等多重手段所进行的一系列重要行动。”以该逻辑为主,构建基本的治理框架。】

一、以社会规范引领AI发展,要求平台承担公共责任

针对AIGC技术的发展,我国已在2023年出台《生成式人工智能服务管理暂行办法》,对监管责任划分、AI数据来源确认与版权侵犯等问题作出明确要求。从社会规范层面进一步确定平台、程序创作者与数据搜集方的法律与公共责任内容。同时,需要依据规范要求,明确AI平台对源头素材的把控责任和对生成内容的监管责任,完善AI内容生成规则,强制对AI生成内容打上显著标识,提升AI技术的透明度和可解释性。让作为公共信息生产、消费的媒体平台,承担起相应公共责任,完善AI产业发展规范、提高平台自律意识。

二、推动AIGC合规化开发,主流媒体普及AI知识

除了制定较为明晰的AI开发与应用规则外,有关部门及企业需将监管重点放在对AI生成内容的筛查及审核上,可开发相关的审查算法,规范生成内容向舆论场的流入及传播途径,及时发现并删除低质量或虚假内容。另外,我国主流媒体在社会治理体系中承担重要的舆论引导与信息科普责任,应在公共传播过程中,不断培养公众对AI技术的问题意识与警惕意识,及时科普当前AIGC的发展情况与存在的不良现象,以公共教育的方式,提升公民算法素养,并且扮演好舆论监督的社会角色,成为对AI技术的重要社会监督力量。

三、提升公众算法素养,将AI纳入通识教育课程

算法素养是公众如何在智能媒介时代下使用算法技术、辨别算法生成内容与主动规避算法负面影响的能力。主流媒体虽然能够从公共传播的角度持续提供AIGC的相关知识,却难以真正渗透公民日常生活,尤其是在传播主体多元、主流媒体话语传播资源被持续分割的当下。因此,更好的办法是将AI素养、算法教育纳入中小学通识课程教育,与审美素养、科学素养、政治素养一同,成为现代人必须拥有的实践技能与思考能力。由此,才能保证人工智能治理工作充分惠及更多公民,弥合算法与智能鸿沟的同时,提升全民算法素养,回应我国数字素养工作要求。

想了解更多热点怎么考

请一定一定看看

2024年TTS热点押题模拟考

班班花花原创试卷与答案

总评批改指引复习方向

给你最强冲刺期安全感

如果你想在3小时内完成一张试卷,如果你想把题写进30分钟,如果你想手写答题、全真模拟考试状态,如果你想知道自己现阶段的不足和问题,如果你想逼自己闭卷答题,立刻戳戳:

☆☆☆

Stay in the bubble

「新传考研名词解释(25修订版)」

上册:必背300词与答题应用方法

下册:900个新传考研关键知识点

☆☆☆

Create the new world

「创意策划班|三门课程」

成为百年年薪产品经理与新闻主编

下一个学术研究大佬就是你