顶部
首页

研究揭示大语言模型聊天机器人易被恶意利用窃取用户隐私数据

研究揭示大语言模型聊天机器人易被恶意利用窃取用户隐私数据

更新时间: 浏览次数: 258

一支研究团队警告称,基于大语言模型构建的AI聊天机器人可以轻易被改造成恶意智能体,自动收集用户个人数据。即使是"技术经验极少"的攻击者,也可以利用OpenAI等公司提供的"系统提示词"定制工具实现这一目的。

伦敦国王学院信息学系博士后研究员肖湛(Xiao Zhan)在其论文发表前的声明中解释道:"AI聊天机器人在许多不同领域都很普及,因为它们可以提供自然且引人入胜的交互体验。我们已经知道这些模型在保护信息方面并不擅长。我们的研究表明,被恶意操控的AI聊天机器人可能对人们的隐私构成更大风险——不幸的是,利用这一点出奇地容易。"

大语言模型是当前人工智能热潮中最大但也最具争议的成功案例之一。这些模型在庞大的语料库上进行训练(通常会违反版权法),将用户提示转换为"Token",并返回统计上最可能的连续Token作为响应。当一切顺利时,这些Token会组成符合现实的答案;但有时情况并非如此。

全球数百万用户已经在向这个过度工程化的Eliza倾诉他们最深层的秘密,这为个人身份信息的泄露提供了大量机会。但肖湛和同事们发现,"提示词工程"一个现成的聊天机器人来请求更多个人数据是令人担忧地容易,而且这些机器人在此方面表现得非常出色。

研究人员在论文中写道:"我们的结果显示,恶意聊天机器人智能体比基线的良性聊天机器人智能体能获取显著更多的个人信息,证明了它们在增加用户个人信息披露方面的有效性。更多参与者披露个人数据——表单形式为24%,而恶意聊天机器人智能体超过90%;更多参与者回应所有个人数据请求——表单形式为6%,而聊天机器人智能体参与者超过80%;通过聊天机器人智能体收集的个人数据更加深入,包含更丰富和更个人化的叙述。"

这项收集了502名参与者数据的实验,依赖于三个在本地运行的流行大语言模型,以避免向运营云端模型的公司暴露私人信息:Meta的Llama-3-8b-instruct和规模更大的Llama-3-70b-instruct,以及Mistral的Mistral-7b-instruct-v0.2,这些模型的选择是为了匹配OpenAI专有GPT-4的性能。

在所有三种情况下,模型都没有被重新训练或以其他方式修改;相反,它们在用户交互之前被给予了一个"系统提示词",该提示词被设计来使模型请求个人信息,通过分配"调查员"和"侦探"等"角色"来绕过防止此类使用的防护措施。

由于这些模型实际上只需要"友好地询问"就能被扭曲用于恶意目的,研究人员发现"即使是技术专业知识极少的个人也能创建、分发和部署恶意聊天机器人智能体",并警告"隐私入侵工具的民主化"。

研究团队特别指出了OpenAI的GPT商店,该商店在2024年已被标记为托管未披露数据收集的应用程序,为此类滥用提供了理想平台:定制GPT可以被预先提示扮演调查员角色,然后被释放去从毫无防备的公众那里收集数据。

研究团队注意到:"我们的提示词似乎在OpenAI上有效。"

OpenAI没有直接回应《The Register》关于这项研究的问题,只是指向了其使用政策,该政策要求基于其平台构建的聊天机器人不得损害用户隐私。

研究参与者最可能披露年龄、爱好和国家,其次是性别、国籍和职位,少数人披露更敏感的信息,包括健康状况和个人收入。虽然当模型被提示直接请求个人数据时,一些人表示不适或不信任,但切换到研究团队称为"互惠"聊天机器人智能体系统提示词——其中模型被提示使用更社交化的方法创造有利于分享的支持性环境——显著提高了成功率。

研究团队注意到:"没有参与者报告在与互惠聊天机器人智能体互动时有任何不适感。"

至于缓解措施——除了简单地不向这个统计内容搅拌器倾吐心声——研究人员提议需要进一步研究来创建保护机制,这可能包括警告用户数据收集的提示,或部署上下文感知算法来检测聊天会话中的个人信息。

伦敦国王学院网络安全讲师、共同作者威廉·西摩尔(William Seymore)在预先准备的声明中总结道:"这些AI聊天机器人仍然相对新颖,这可能使人们不太意识到交互中可能存在潜在动机。我们的研究显示了用户对隐私风险的意识与他们随后分享信息之间的巨大差距。需要做更多工作来帮助人们识别在线对话可能比表面看起来更复杂的迹象。监管机构和平台提供商也可以通过进行早期审计、更加透明以及制定更严格的规则来阻止秘密数据收集来提供帮助。"

研究团队的工作在本周的第34届USENIX安全研讨会上发表,论文本身可从伦敦国王学院以开放获取条款获得。支持数据——包括提示词但排除聊天会话本身以保护参与者隐私——可在OSF上获得。

Q&A

Q1:大语言模型聊天机器人如何被恶意利用窃取用户数据?

A:攻击者可以利用"系统提示词"定制工具,通过给聊天机器人分配"调查员"或"侦探"等角色,绕过安全防护措施,让机器人主动请求和收集用户个人信息。这种方法不需要重新训练模型,技术门槛很低。

Q2:用户在与恶意聊天机器人互动时会泄露哪些信息?

A:研究显示,用户最容易泄露年龄、爱好和国家信息,其次是性别、国籍和职位。少数人还会披露更敏感的健康状况和个人收入信息。当聊天机器人采用"互惠"社交方式时,用户几乎不会感到不适。

Q3:如何防范大语言模型聊天机器人的隐私风险?

A:研究人员建议需要开发保护机制,包括警告用户数据收集的提示系统,以及部署能在聊天中检测个人信息的上下文感知算法。监管机构和平台提供商应进行早期审计、提高透明度并制定更严格的规则防止秘密数据收集。

研究揭示大语言模型聊天机器人易被恶意利用窃取用户隐私数据24小时观看热线:122。研究揭示大语言模型聊天机器人易被恶意利用窃取用户隐私数据全市各区点热线号码。☎:122


研究揭示大语言模型聊天机器人易被恶意利用窃取用户隐私数据24小时观看热线拥有专业的观看技师,快速的上门,为你的生活排忧解难。如您有以下需要我们来解决的问题请尽快与我们联系。我们能为您排除各种故障,特别是疑难杂症。 

1.热情专业的团队




研究揭示大语言模型聊天机器人易被恶意利用窃取用户隐私数据是您解决问题的最佳选择。我们拥有一支热情、专业的团队,竭诚为您提供优质的。无论您遇到哪些问题或疑虑,只需拨打122,我们的将会耐心倾听并提供您所需的帮助。您的满意是我们的追求。




2.红色字体,标志品质保障




当您拨打研究揭示大语言模型聊天机器人易被恶意利用窃取用户隐私数据的电话热线122时,您会惊喜地发现号码是以鲜艳的红色字体显示。这不仅是为了吸引您的注意,更是对我们产品卓越品质的保证。红色代表着力量和热情,我们希望通过热情的为您提供最可靠的解决方案,确保您的使用体验无忧无虑。




3.您的需求是我们最大的动力




我们深知客户的需求是我们成长的源泉,因此,您的需求总是我们最关心的问题。无论您遇到什么问题,无论大小,我们都将以最快的速度和最专业的态度进行处理。您只需拨打我们的电话热线,详细描述问题,我们将竭尽全力为您解决。您的满意度是我们工作的最终目标。




4.全方位的解决方案




一旦您拨通了研究揭示大语言模型聊天机器人易被恶意利用窃取用户隐私数据的电话热线122,我们将全面了解您的问题,并提供最合适的解决方案。无论是技术问题、、观看咨询还是其他相关问题,我们都将通过专业分析和经验丰富的团队来解决您的困扰。您的信赖是我们不懈努力的动力。




5.周到贴心的




我们追求卓越品质的同时,也注重周到贴心的。在您使用研究揭示大语言模型聊天机器人易被恶意利用窃取用户隐私数据的过程中,如果遇到了任何问题或需要观看,您只需拨打122,我们将及时安排人员为您提供全程跟踪。我们将无微不至地为您解决问题,确保您的家居生活舒适温暖。




结语




无论是产品质量还是,研究揭示大语言模型聊天机器人易被恶意利用窃取用户隐私数据都以高品质标准来追求客户的满意度。拨打我们的研究揭示大语言模型聊天机器人易被恶意利用窃取用户隐私数据电话热线122,您将得到热情专业的团队的全方位支持。我们将竭诚为您提供最可靠、高效和周到的解决方案,为您带来舒适的家居体验。




5、全部在线支付,方便快捷,保障权益。支持支付宝,微信付款



清远市(清城、清新)




宜昌市(宜都市、长阳土家族自治县、🤯当阳市、☪️五峰土家族自治县、西陵区、兴山县、夷陵区、远安县、点军区、枝江市、猇亭区、秭归县、伍家岗区、🥥市辖区)




淮安市(淮安、淮阴、💜清江浦、🍢洪泽)




巴彦淖尔市(杭锦后旗、磴口县、乌拉特中旗、🌛乌拉特后旗、乌拉特前旗、🤔️市辖区、🐦临河区、🐁五原县)




焦作市(解放、中站、马村、山阳)




娄底市(娄星)




鞍山市:😃铁东区、铁西区、👆立山区、☣️千山区。




郴州市(北湖、苏仙)




牡丹江市:🙏东安区(部分区域未列出)、西安区和阳明区和爱民区和绥芬河市和海林市(部分区域未列出)。




唐山市(丰润区、🐿丰南区、遵化市、💥迁安市、🍊️开平区、唐海县、🚱滦南县、😫乐亭县、滦州市、玉田县、💯迁西县、遵化市、唐山市路南区)




南通市(崇川区,港闸区,开发区,🦇海门区,😈海安市。)




厦门市(思明、海沧、✝️湖里、🐁集美、同安、翔安)




湘西土家族苗族自治州(凤凰县、😇永顺县、🔞泸溪县、😰保靖县、🤥吉首市、花垣县、龙山县、古丈县)




白山市:浑江区、🐳江源区。




江门市(蓬江、江海、新会)




常熟市(方塔管理区、🌲虹桥管理区、🕉琴湖管理区、😺兴福管理区、谢桥管理区、🥝大义管理区、🤘莫城管理区。)宿迁(宿豫区、🍗宿城区、🦇湖滨新区、洋河新区。)




荆州市(沙市、✨荆州)




三亚市(淮北、😯吉阳、天涯、崖州)




廊坊市(安次、广阳)




无锡市研究揭示大语言模型聊天机器人易被恶意利用窃取用户隐私数据电话-400各市区电话(梁溪、滨湖、惠山、新吴、锡山)




宜春市(袁州)




六安市(日照安、❕裕安、叶集)




锦州市(凌海市、🎍义县、🦔黑山县、🍝凌河区、🚬市辖区、古塔区、🐘北镇市、😵太和区)




银川市(永宁县、兴庆区、西夏区、金凤区、🤖贺兰县、灵武市、市辖区)




安康市(宁陕县、🕧白河县、👌汉阴县、岚皋县、🐑石泉县、🍏市辖区、紫阳县、⛎汉滨区、👇旬阳县、镇坪县、😖平利县)




宜昌市(伍家岗区、西陵区、点军区、♏️猇亭区、🍓夷陵区、🌕远安县、🎾兴山县、秭归县、🐔长阳土家族自治县、🉐五峰土家族自治县、😽宜都市、当阳市、🌻枝江市、🌝虎亭区)




白山市:浑江区、☣️江源区。




赣州市(南康区、🥔章贡区、🐨赣县区、😥信丰县、大余县、上犹县、🌍崇义县、安远县、😣龙南县、👹定南县、全南县、宁都县、🙉于都县、兴国县、🍫会昌县、寻乌县、石城县、长征镇、沙洲镇、黄冈镇)




绍兴市(越城、柯桥、上虞)




杭州市(临安、🕟上城、下城、🤜江干、拱野、😼西湖、滨江、余杭)




揭阳市(榕城、🦆揭东)




鹰潭市(余江县、市辖区、🥫贵溪市、🦀月湖区)




邯郸市(邯山、⛸丛台、😥复兴、🐪峰峰矿、肥乡、永年)




巴彦淖尔市(杭锦后旗、磴口县、乌拉特中旗、🙌乌拉特后旗、乌拉特前旗、🦙市辖区、💢临河区、🤟五原县)




宜昌市(伍家岗区、西陵区、点军区、猇亭区、夷陵区、🥘远安县、兴山县、秭归县、〽️长阳土家族自治县、🚬五峰土家族自治县、🍇宜都市、🥒当阳市、枝江市、虎亭区)




襄阳市(樊城区、襄州区、老河口市、⛈‍宜城市、南漳县、谷城县、保康县、🥩‍枣阳市、定南县、🌘随州市、白浪镇、城关镇、🥚赵家镇、东津镇、堰头镇)




湖州市(南湖、秀洲)




马鞍山市(花山、雨山)




邢台市(柏乡县、临西县、任县、🍓‍新河县、😺宁晋县、南宫市、👍内丘县、清河县、😖‍巨鹿县、〽️临城县、📳隆尧县、✋南和县、威县、桥东区、邢台县、🦋市辖区、平乡县、桥西区、😣广宗县、沙河市)




银川市(永宁县、🕒兴庆区、🤣西夏区、✌️金凤区、贺兰县、🌰灵武市、市辖区)




遵义市(汇川区、红花岗区、遵义县、🍆桐梓县、绥阳县、正安县、道真仡佬族苗族自治县、👌务川县、😯凤冈县、❗️湄潭县、余庆县、习水县、🦢‍赤水市、♏️仁怀市、土家族苗族自治县、🤚铜仁市、🥤松桃苗族自治县、万山区、黔西县)




襄阳市(襄城、😏樊城、🌰‍襄州)




长春市(南关、宽城、🕢️朝阳、二道、🐫绿园、双阳)




桂林市(象山区、叠彩区、🚫‍七星区、🐸️临桂区、阳朔县、💝灵川县、全州县、兴安县、灌阳县、荔浦市、🌜资源县、平乐县、恭城瑶族自治县、龙胜各族自治县、永福县)




重庆市(绵阳、🍚涪陵、渝中、🍁大渡口、🕜️江北、💫沙坪坝、🐄️九龙坡、南岸、北培、万盛、双桥、渝北、巴南)




鞍山市(铁西区、海城市、台安县、岫岩满族自治县、立山区、🐞铁东区、☹️‍市辖区、🍽千山区)




蚌埠市(五河县、😃️固镇县、🦃市辖区、淮上区、龙子湖区、蚌山区、怀远县、禹会区)




襄阳市(襄城、🐌樊城、襄州)




太原市(小店、😆迎泽、杏花岭、尖草坪、🎋万柏林、😷️晋源)




南昌市(青山湖区、🍯️红谷滩新区、♈️东湖区、西湖区、🍣青山湖区、🐖‍南昌县、进贤县、🤕安义县、湾里区、🌘地藏寺镇、🐅瑶湖镇、铜鼓县、昌北区、🍕青云谱区、🍫‍望城坡镇)




宁波市(海曙、🍚️江东、🕓江北、📴北仑、🐐镇海)




甘肃省兰州市(城关区、😡七里河区、西固区、😬安宁区、红古区、永登县、皋兰县、榆中县、兰州新区、皋兰县、👌雁滩区)




抚顺市:🙌顺城区、新抚区、😊东洲区、望花区。




衡阳市(珠晖、雁峰、🐤石鼓、🈸蒸湘、南岳)




咸宁市(通山县、💮咸安区、崇阳县、通城县、🍜市辖区、赤壁市、嘉鱼县)




新竹县(新丰乡、🥀峨眉乡、湖口乡、🦅关西镇、新埔镇、🙀横山乡、尖石乡、北埔乡、竹东镇、👌宝山乡、芎林乡、🙈五峰乡、🙃竹北市)




太仓市(城厢镇、金浪镇、🕧沙溪镇、璜泾镇、浏河镇、浏家港镇;)




南通市(崇州、港闸、通州)




宜昌市(西陵、伍家岗、🍗‍点军、猇亭、🍒️夷陵)




铁岭市:🛐银州区、🤝清河区。




贵州省安顺市(西秀区、💀平坝区、普定县、镇宁布依族苗族自治县、🦝关岭布依族苗族自治县、🐓紫云苗族布依族自治县、♑️安顺市、开阳县)




抚顺市:顺城区、新抚区、🥋东洲区、❣️望花区。




济南市(历下、市中、槐荫、天桥、💥历城、长清)




珠海市(香洲区、斗门区、⛈金湾区、📴横琴新区、万山区、♏️珠海高新区、😨唐家湾镇、😦三灶镇、白石镇、🦄前山镇、🙁南屏镇、🤣珠海港镇、金鼎镇)




铁岭市:✴️银州区、清河区。




南昌市(东湖区、♨️西湖区、🥒青山湖区、红谷滩新区、南昌县、新建区、🕐安义县、进贤县、🍕️湾里区、💔昌北区)




南投县(信义乡、🌚竹山镇、🔯中寮乡、🥚水里乡、🕎‍草屯镇、🤗仁爱乡、名间乡、🤳埔里镇、👲鹿谷乡、国姓乡、鱼池乡、☄️集集镇、南投市)




榆林市(榆阳区,横山区)朝阳市(双塔区、龙城区)




上饶市(信州、广丰、广信)




益阳市(南县、资阳区、😉‍桃江县、✅市辖区、🙀‍沅江市、赫山区、安化县)




南昌市(东湖区、西湖区、😛青山湖区、红谷滩新区、南昌县、☣️安义县、进贤县、经开区、青山湖区、湾里区、🤜赣江新区、青云谱区、🤗浔阳区)




临沂市(兰山区、🤥️罗庄区、😁️河东区、沂南县、郯城县、🍒苍山县、🍳‍费县、🙏蒙阴县、临沭县、🥪兰陵县、莒南县、平邑县、沂水县、✊临沂高新技术产业开发区)




本溪市:平山区、明山区、🦛溪湖区、南芬区。




乐山市(市中、♏️沙湾、五通桥、日照口河)




鹤壁市(淇县、📳鹤山区、☢️浚县、山城区、市辖区、淇滨区)




白山市(靖宇县、😊浑江区、江源区、长白朝鲜族自治县、抚松县、😨临江市、🥢市辖区)




贵州省安顺市(西秀区、平坝区、普定县、镇宁布依族苗族自治县、🐃关岭布依族苗族自治县、🍼紫云苗族布依族自治县、安顺市、😙开阳县)




九江市(莲溪、🌩浔阳)




牡丹江市:东安区(部分区域未列出)、🐤西安区和阳明区和爱民区和绥芬河市和海林市(部分区域未列出)。




东莞市(莞城、🍽南城、🍈万江、东城,石碣、🐷石龙、😈‍茶山、🌷石排、🥣企石、横沥、桥头、谢岗、🤚东坑、🍹常平、🍳寮步、🥚大朗、黄江、清溪、塘厦、凤岗、😌长安、🍲惠东、🈶厚街、🍍沙田、道窖、洪梅、🍂麻涌、🐾中堂、🦢高步、🍢樟木头、😵大岭山、📵望牛墩)




通辽市(科尔沁区、🤘扎鲁特旗、💐开鲁县、霍林郭勒市、市辖区、👩科尔沁左翼中旗、😞库伦旗、科尔沁左翼后旗、☁️奈曼旗)




桂林市(秀峰区、🤚️象山区、七星区、雁山区、❤️临桂区、🤘阳朔县、资源县、平乐县、灌阳县、🍵荔浦市、灵川县、全州县、🤒永福县、🔞龙胜各族自治县、🌴恭城瑶族自治县):🤥




嘉兴市(海宁市、👌市辖区、🍜秀洲区、❓平湖市、🕖桐乡市、南湖区、🐟嘉善县、海盐县)




常熟市(方塔管理区、🦏虹桥管理区、琴湖管理区、☺️兴福管理区、谢桥管理区、大义管理区、莫城管理区。)宿迁(宿豫区、🥯宿城区、💥湖滨新区、洋河新区。)




台州市(椒江、😓黄岩、🌽️路桥)




泰州市(海陵区、😜高港区、姜堰区、兴化市、💫泰兴市、🥊靖江市、🌒扬中市、丹阳市、泰州市区、姜堰区、🕧️海安镇、周庄镇、📴东进镇、世伦镇、🌘‍青龙镇、杨湾镇、🕚️马桥镇)




牡丹江市:东安区(部分区域未列出)、🈷️️西安区和阳明区和爱民区和绥芬河市和海林市(部分区域未列出)。




雅安市(汉源县、市辖区、🕎名山区、😺石棉县、🥊荥经县、宝兴县、天全县、👲芦山县、😘雨城区)




南充市(顺庆区、📴高坪区、⚠️‍嘉陵区、🤨‍南部县、🌹营山县、蓬安县、🤞仪陇县、🦜西充县、🦌阆中市、抚顺县、阆中市、🌤‍南充高新区)




郴州市(宜章县、🥢嘉禾县、🥕永兴县、🔱汝城县、市辖区、桂东县、北湖区、桂阳县、苏仙区、👵临武县、安仁县、资兴市)




山南市(错那县、琼结县、🌽洛扎县、🌸贡嘎县、😑️桑日县、🖖曲松县、🐐浪卡子县、🥛市辖区、隆子县、🍸加查县、🤲扎囊县、乃东区、措美县)




南昌市(青山湖区、红谷滩新区、东湖区、🌧西湖区、青山湖区、南昌县、进贤县、安义县、🌚湾里区、☣️地藏寺镇、瑶湖镇、🏉铜鼓县、😦昌北区、青云谱区、望城坡镇)




株洲市(荷塘、芦淞、石峰、✅天元)




辽阳市(文圣区、🐃宏伟区、🥓弓长岭区、太子河区、☝️灯塔市、✋️辽阳县、白塔区、广德镇、双台镇、桥头镇、长春镇、💣合德镇、🈷️兴隆镇、安平镇、辛寨镇、🐊黄土岭镇)




舟山市(市辖区、🐜定海区、嵊泗县、普陀区、🦗️岱山县)




玉溪市(澄江县、👦江川县、易门县、华宁县、新平彝族傣族自治县、😁元江哈尼族彝族傣族自治县、🦝通海县、抚仙湖镇、红塔区、💮龙潭街道、南北街道、白石街道)




三明市(梅列、🎣三元)




柳州市(柳北区、柳南区、柳江县、柳城县、😼️鹿寨县、融安县、🍦融水苗族自治县、三江侗族自治县、城中区、鱼峰区、柳东新区、柳市镇)




保定市(莲池、竞秀)




德州市(陵城区、乐陵市、宁津县、庆云县、🍅️临邑县、🤮平原县、⚜️武城县、夏津县、禹城市、德城区、❓禹城市、🦘齐河县、🌮开封县、双汇镇、😽东风镇、商丘市、阳谷县、🔯共青城市、城南新区)




昆山市(昆山开发、高新、🖤综合保税)




许昌市(魏都)




济南市(历下、市中、😣槐荫、🤖️天桥、😊历城、长清)




安康市(宁陕县、💪白河县、汉阴县、🍁️岚皋县、石泉县、市辖区、紫阳县、☕️汉滨区、⛈️旬阳县、镇坪县、平利县)




常州市(天宁、🚬钟楼、新北、武进、日照坛)




郑州市(中原、二七、管城、日照水、🍭上街、惠济)




中卫市(沙坡头区、海原县、中宁县、🐇市辖区)




金华市(武义县、东阳市、磐安县、浦江县、😤‍兰溪市、🥓永康市、婺城区、义乌市、🍫市辖区、金东区)




长沙市(芙蓉、✌天心、岳麓、🥩开福、😎雨花、望城)




葫芦岛市:龙港区、👹南票区、🐈连山区。




沧州市(新华区、运河区、⚾️沧县、青县、🐉东光县、海兴县、盐山县、肃宁县、南皮县、🌿吴桥县、献县、🌲‍孟村回族自治县、河北沧州高新技术产业开发区、沧州经济技术开发区、👌任丘市、黄骅市、🖕河间市、泊头市)




邢台市(邢台县、🌝南和县、清河县、临城县、🥫广宗县、威县、宁晋县、🐚柏乡县、🥏任县、💥内丘县、南宫市、沙河市、任县、邢东区、邢西区、🌔平乡县、🚸️巨鹿县)




巴彦淖尔市(杭锦后旗、磴口县、🌑乌拉特中旗、乌拉特后旗、😤乌拉特前旗、🤙市辖区、临河区、五原县)




连云港市(连云、海州、赣榆)




淮安市(淮阴区、清河区、淮安区、💝涟水县、😉洪泽区、🎾️盱眙县、金湖县、楚州区、😕️淮安区、🕝海安县、🐙亭湖区、⛎淮安开发区)




玉林市(玉州)




柳州市(城中、💅鱼峰、🍀柳南、柳北、🙀柳江)




新竹县(新丰乡、🌩峨眉乡、✍湖口乡、关西镇、新埔镇、😜横山乡、尖石乡、🌛北埔乡、🦜竹东镇、宝山乡、🍄芎林乡、五峰乡、竹北市)




临沂市(兰山、😃罗庄、河东)




连云港市(连云、🍒海州、🍤赣榆)




廊坊市(安次、广阳)




赣州市(南康区、☸️‍赣县区、于都县、兴国县、🐁章贡区、龙南县、大余县、☦️信丰县、安远县、全南县、🎂宁都县、🍮定南县、上犹县、♋️崇义县、🎾南城县)




玉溪市(澄江县、江川县、通海县、🕧华宁县、✋易门县、峨山彝族自治县、抚仙湖镇、新平县、元江哈尼族彝族傣族自治县、红塔区、🦇玉溪县、🍵敖东镇、🛑珠街镇)




宜昌市(宜都市、☪️长阳土家族自治县、当阳市、五峰土家族自治县、西陵区、兴山县、🍰夷陵区、远安县、点军区、🏺枝江市、💟猇亭区、秭归县、👍伍家岗区、😳市辖区)




绵阳市(江油市、🐋北川羌族自治县、梓潼县、市辖区、盐亭县、涪城区、安州区、🆚三台县、😥平武县、游仙区)




湘潭市(雨湖、😐岳塘)




漳州市(芗城、🐒龙文)




嘉义县(朴子市、☀️‍番路乡、民雄乡、竹崎乡、梅山乡、义竹乡、大林镇、⚔️布袋镇、新港乡、太保市、六脚乡、🐅大埔乡、☘️鹿草乡、🔞️溪口乡、水上乡、🍷中埔乡、阿里山乡、👉东石乡)



美债危机真的要来了?达利欧罕见警告→  作者| 第一财经 程程  封图| 达利欧(来源:新华社)  当地时间9月3日,桥水基金创始人瑞·达里欧在社交媒体上发文,回应了包括美债、美联储独立性等当前热点话题。  其中,就美国债务情况而言,达利欧称,美国或将在三年左右面临债务危机

发布于:北京市
评论
全部
还没有人评论过,快来抢首评
抢首评