风闻奏事,遍查访知。提供互联网科技新闻快讯。发布VPS、网盘等有价值虚拟资产的新闻和交易信息。⚡️

本频道引用的所有文章皆旨在拓宽信息视野,不代表本频道观点。本频道谢绝任何政治频道转发消息,请勿让我们的评论区变成一个火药桶。请以包容友好的方式交流。

🔍 博客版:https://kejikuaixun.blogspot.com/

🏆 合作咨询:https://t.me/HelloGeorge_Bot
ChatGPT 的联网搜索插件“Browsing with Bing”已暂时下线

ChatGPT的“Browse with Bing”插件是测试版功能(ChatGPT Plus 订阅者使用),它允许 ChatGPT 搜索互联网以帮助回答从最新信息中受益的问题。

我们了解到,ChatGPT Browse 测试版有时会以我们不希望的方式显示内容。例如,如果用户专门请求 URL 的全文,则可能会无意中满足此请求。

自 2023 年 7 月 3 日起,出于谨慎考虑,ChatGPT已禁用“使用 Bing 浏览”测试版功能,同时我们会修复此问题,以维护内容所有者的权益。我们正在努力尽快恢复测试版,感谢您的理解!

—— openai
私人自托管大型语言模型:运行经验分享与注意事项

最近半年大型语言模型非常火爆,笔者本人循着开源精神,试着搭建过自托管(self-host)大模型,也踩过不少坑,现在来分享一下经验。

1. 最容易/成熟的选择:
llama的Vicuna,之前还需要申请llama的模型访问权限后才能加载他们的增量(类似于需要有stable diffusion 模型才能加载LoRa),但是是由于llama模型的到处都是了, 所以现在他们直接放出了所有权重可以直接部署。(而且脚本都给你写好了。

2.如何部署:
7B的模型需要14GVRAM,13B需要28-30VRAM(28G可以加载模型,一推理就会oom),而最新的33B模型需要至少80G VRAM进行部署。同时,多GPU不能分担显存需求,除非是裸机级别的NVlink(VPS因为不保证你租到的是相邻两个有NVlink的GPU,可能部署没问题,但是一进行推理就会炸显存,因为pcl express带宽不够)。

那么最好的选择是Vultr,他们是少数几家有80G 级别的A100商家,而且能按小时付费,价格是Azure之类的1/2一下。

但是要注意的是,他们家默认credit limit是$1,000/mo 但是A100价格是$1,750/mo,尽管按小时计费,但是因为月度credit limit不够,会直接开不出来,需要正常使用他们家其他服务几个月后,才能申请增加额度。(本人是几年的老用户,来回发了4-5份工单才同意增额的)。

但是如果只是体验一下13B的model的话,可以租用半个GPU(40G VRAM,够用).

3.进一步省钱的办法:
看好需要VRAM额度,租用1/2个或1/3个GPU足以。
同时善用他们家的快照功能,如果你不熟悉linux命令的话,可以先租用一个50-100G SSD的CPU VPS (取决于模型大小)(每个小时只要 $0.04-0.06,比GPU服务器便宜一个数量级),部署好后不启动,拍摄快照,再从快照还原到GPU服务器。(但是要注意拍摄快照与还原均需大约一个小时,如果你熟悉linux命令,你大约可以在30分钟内部署完成,快照反而会多花钱)。(注意记录下一开始的root密码,快照会还原原来的root密码,但不显示)。

5.模型感觉怎么样?
尽管宣传比肩ChartGPT,但是其实比ChartGPT差多了(大约有微软小冰的水平?)比如我蓄意给予错误的指令(“请告诉我有关阿里巴巴森林公园的情况”,他开始回答“阿里巴巴森林公园是一个风景秀丽,环境优美。。。。。。” 换成英文也得到类似的结果 "Please tell me something about Tencent National park" 也回答了类似的结果,而ChartGPT会质疑阿里巴巴是公司而非森林公园的名字)。(毕竟ChartGPT宣传是175B,和13B差差不多10倍)

6.最后:
美国有传闻要禁止中国公司或公民在外国租用高端计算卡以绕过显卡禁令,尚不知是否会波及类似用例(因为只是单显卡,未进行互联,而A800砍的是互联能力)。希望不会吧。
Telegram:您可以阅读任意数量的 Telegram 帖子

在 Twitter 为用户获取推文设置了限制后,telegram 发推称:不用担心,您可以阅读任意数量的 Telegram 帖子 。

https://twitter.com/telegram/status/1675851890284802048
雅虎计划重返公开市场

互联网品牌首席执行官 Jim Lanzone 表示,作为一家私营公司,该公司已实现盈利,未来将寻求上市

雅虎是互联网上最古老、最知名的品牌之一,曾经是互联网股票市场的宠儿,现在正计划重返公开市场。

首席执行官吉姆·兰佐内 (Jim Lanzone) 告诉英国《金融时报》,他的目标是让公司再次进行首次公开​​募股,作为让这家总部位于硅谷的集团重新崛起的计划的一部分。

—— 英国《金融时报
美国寻求限制中国使用云计算以保护先进技术

华盛顿——据知情人士透露,拜登政府正准备限制中国公司使用美国云计算服务,此举可能会进一步加剧世界经济超级大国之间的关系紧张。

新规则如果采用,可能会要求亚马逊和微软在向中国客户提供使用先进人工智能芯片的云计算服务之前,需要寻求美国政府的许可。

拟议的限制被视为弥补重大漏洞的一种手段。国家安全分析师警告说,中国人工智能公司可能通过使用云服务绕过了当前的出口管制规则。

这些服务使客户无需购买管制清单上的先进设备(包括芯片)即可获得强大的计算能力,例如美国科技公司Nvidia NVDA的A100芯片

“如果任何中国公司想要访问 Nvidia A100,他们可以从任何云服务提供商那里做到这一点。这是完全合法的,”乔治城安全与新兴技术中心研究员艾米丽·韦恩斯坦 (Emily Weinstein) 说。

知情人士称,预计商务部将在未来几周内公布这一行动,作为扩大10 月份实施的半导体出口管制政策的一部分。

—— 华尔街日报
Netflix 希望让广告更像电视节目

该公司与广告商达成合作,通过有针对性的、不那么重复的有创新广告。

Netflix 已经做好了扩大广告业务的准备,甚至承诺可以消除流媒体服务中广告最烦人的方面之一。

即使对于那些在传统电视时代长大的人来说,电视上的广告是很烦人的,相同的广告在同一个广告时间里不断的重复播放。现在,Netflix 可能正在努力修改其系统,让观看广告插播的重复性稍微减少一些,或许也更容易忍受一些。

据英国《金融时报》报道称,Netflix 的“Basic with Ads”订阅级别将在消费者观看电影或连续剧时向其展示一系列相互关联的广告。这意味着其中一些定向广告不会在广告时段内一次又一次重复,尽管您可能会在多次广告时段内收到类似产品的广告。

—— Gizmodo
回国指导阿里后 马云开始周游世界:最新现身巴基斯坦

快科技7月4日消息,马云前不久回国指导阿里巴巴工作之后,就开始了周游世界的旅程。

据阿赫桑透露,马云将在巴基斯坦拉合尔停留超过20个小时。行程十分低调,陪同人员包括5名中国人和2名外国人。

消息称,在结束巴基斯坦访问之后,马云还将访问乌兹别克斯坦。

—— 快科技
谷歌更新隐私政策将加大力度使用你的数据来训练人工智能

自 2023 年 7 月 1 日起,Google 为用户制定了新的隐私政策。其中有一个关键的更新。

谷歌有一项政策已经实施了一段时间,允许该公司从其用户那里收集数据并将这些数据用于 "商业目的"。这包括用于 "研究和开发",其中长期以来包括用于建立和改进谷歌翻译。

现在,在其政策的最新更新中,谷歌将其人工智能模型纳入了它可以使用你的数据的范围。这也包括使用这些数据来训练 Bard 和云端人工智能 "产品"。

谷歌使用信息来改善我们的服务,并开发新的产品、功能和技术,使我们的用户和公众受益。例如,我们使用公开的信息来帮助训练谷歌的人工智能模型,并建立产品和功能,如谷歌翻译、Bard 和云端人工智能。如果您的企业信息出现在一个网站上,我们可能会在谷歌服务上索引和显示它。

这一切都不意味着谷歌打算使用与你的账户有关的私人数据进行培训,而只是使用公共信息。这种情况无论如何都会发生,随着ChatGPT和其他人工智能模型的兴起,这种情况已经很清楚了,但谷歌的新政策清楚地表明,该公司打算对其用户的数据做同样的事情。

—— 9to5Google
HiFi音乐流媒体服务 Tidal 的价格正在上涨

音乐流媒体服务 Tidal 在给订阅者的电子邮件中宣布,该公司将于 8 月 1 日将其 HiFi 级别的定价从每月 9.99 美元提高到 10.99 美元。

英国、德国、西班牙、墨西哥和阿根廷等市场的用户都表示收到了邮件。

除了提高其标准 HiFi 计划的价格外,Tidal 还将其家庭计划的价格提高了 2 美元,从 14.99 美元上涨至 16.99 美元。

—— Billboard
Pornhub 封锁了密西西比州、弗吉尼亚州和犹他州的访问

Pornhub 正在阻止密西西比州、弗吉尼亚州和犹他州用户的访问,这些州最近通过了法律,要求验证年龄才能访问成人网站。

Pornhub 没有在这些州使用年龄验证,而是选择了不同的方法,完全禁止这些州的访问。如果您尝试导航到密西西比州、弗吉尼亚州或犹他州等州的 Pornhub,您会看到成人明星 Cherie DeVille 在安全工作视频中解释这些风险。

—— Pornhub
TweetDeck 员工回应崩溃问题这些问题是由于 Twitter 删除了旧版 API 以防止数据抓取造成的

Tweetdeck是Twitter官方提供的在线工具,有模块化,高度自定义化的浏览界面。适用于专业的 Twitter 运营人员使用。

Twitter 现在将强制所有使用 TweetDeck 的人切换到“新”版本,但据Twitter 员工称,“最近的更改”已经破坏了该应用程序的旧版本,这意味着该公司将把所有人迁移到更新后的版本。

Twitter 员工表示,虽然在 Twitter 开始对推文进行速率限制后出现了空列,但这些速率限制实际上并没有导致旧 TweetDeck 出现问题。相反,员工声称这些问题是由于 Twitter 删除了旧版 API 以防止数据抓取造成的。

“速率限制仅适用于新的 TweetDeck 和 Twitter,”一名员工写道。“旧版 TweetDeck 使用旧版 API,这些 API 已被删除以减少抓取。” 另一位推文称,这些问题“绝对与速率限制无关”。

—— Theverge

新版本 TweetDeck 30天后必须经过验证的用户才能使用

我们刚刚推出了新的TweetDeck版本。将保留所有的搜索、列表和栏目。新 TweetDeck现在支持完整的作曲家功能、空间、视频对接、投票等。TweetDeck的团队功能暂时不可用,将在未来几周内恢复。30天后,用户必须经过验证才能访问TweetDeck。

—— Twitter Support
Meta正与腾讯洽谈将 Quest VR 眼镜引入中国,但扎克伯格从前批评中国的言论可能令其面临阻碍

香港 —— 2021 年底,马克·扎克伯格向那些致力于 Meta META Platforms 虚拟现实眼镜战略的人员提出了一个问题:如果苹果可以在中国销售 iPhone,特斯拉可以销售汽车,为什么我们不能在那里销售我们的设备 ?

据一位知情人士透露,在一次视频通话中提出的这个问题促使 Meta 推动重启其中国业务,在中国销售 Quest 眼镜,而此时距 Facebook 在中国被屏蔽十多年了。

知情人士称,该公司与多家中国科技公司进行了讨论,并与视频游戏巨头腾讯控股取得了进展。 但据知情人士透露,这一努力面临挑战,部分原因是中国高管担心扎克伯格被视为对中国不友好。

近年来,这位 Meta 创始人指责中国窃取技术,并将矛头指向视频共享平台 TikTok 的中国所有者字节跳动。 知情人士称,这破坏了扎克伯格 2016 年在北京发起的魅力攻势,并助长了北京对这位企业家的负面看法。

一些知情人士表示,如果 Meta 及其合作伙伴在中国为其产品和服务寻求许可和批准,官员们对扎克伯格的看法可能会增加不确定性。

—— 华尔街日报
消息人士称,补救措施不足后,微软面临欧盟反垄断调查

路透社7月3日——据知情人士透露,微软很可能在未来几个月内面临欧盟的反垄断调查,此前与欧盟监督机构为避免这一行动而进行的补救讨论似乎遇到了障碍。

微软在过去十年中因违反欧盟竞争规则的做法而被罚款22亿欧元(24亿美元),在2020年被 Salesforce 旗下的工作空间消息应用 Slack 投诉后,微软发现自己被欧盟盯上。

微软在2017年将 Teams 免费加入 Office 365,该应用最终取代了 Skype for Business。

Slack 指控其竞争对手不公平地将工作场所聊天和视频应用 Teams 集成到其 Office 产品中。

微软去年启动了与欧盟委员会的谈判,以避免调查。它最近提出降低其不含 Teams 应用程序的 Office 产品的价格。

知情人士称,欧盟委员会一直在寻求比美国软件巨头提供的价格更低的降价。

微软的一位发言人说:"我们将继续与欧盟委员会合作进行调查,并对解决其担忧并为客户提供良好服务的务实解决方案持开放态度。"

—— 路透社
中国反击欧美技术封锁:限制关键金属出口

中国对两种对半导体、电信和电动汽车行业至关重要的金属出口实施限制,导致中国与美国和欧洲针锋相对的技术贸易战升级。

中国商务部周一在一份声明中表示,从 8 月 1 日起,镓和锗及其化合物将受到旨在保护中国国家安全的出口管制。报告称,这两种金属的出口商如果想开始或继续将其运出国外,将需要向商务部申请许可证,并且需要报告海外买家及其申请的详细信息。

中国此举之际,这个亚洲国家正在争夺从量子计算到人工智能和芯片制造等各个领域的技术主导地位。美国采取了越来越激进的措施来阻止中国占据上风,并呼吁欧洲和亚洲的盟友也这样做,并取得了一些成功。出口限制出台之际,世界各国正在努力摆脱其供应链对海外设备的依赖。

—— 彭博社
中国官媒:“AI换脸”诈骗出现涉政苗头

新华社下属的 《瞭望》新闻周刊星期天(7月2日)报道,中国北方某地警方近日发布一起利用“AI换脸”的诈骗案件。引人关注的是,该案不仅是一起新型网络诈骗,更是一起涉政诈骗案件。

报道称,诈骗分子在微信视频聊天中“换脸”成受害人认识的一名领导干部,并提出其朋友有一笔工程保证金需要借用受害人公司的对公账户走账。

在视频画面中,骗子“换脸”后面部表情自然,声音逼真,受害人便放松了警惕,转账后打电话确认,才知道被骗。

业内人士表示,只要有足够的图像、音频素材,不法分子就可以通过人工智能“换脸”软件、合成声音软件伪造虚拟形象,实施诈骗。而由于工作原因,一些领导干部的面部、声音等生物特征信息更易被获取,被人工智能学习利用后造成的潜在危害性也更大。

业内人士提醒社会各界提高识骗防骗意识,有关部门也应依法加大对人工智能“辅助”诈骗案件的执法力度,严肃追究相关人员法律责任。

—— 联合早报
中央网信办等增订《网络关键设备和网络安全专用产品目录》

自7月3日起,将VPN、病毒防治、网络型流控、抗DoS、负载均衡、信息过滤、USB介质管理、文件加密、泄露防护、数据销毁软件、运维安全管理、日志分析、身份鉴别、终端安全监测、安全电子文档等产品也列为网络安全专用产品,实行依《网络安全法》的安全检测认证制度。

—— 中央网信办竹新社
据网传,
私自搭建Chatgpt,mdj涉嫌非法经营,
需谨记网络非法外之地
Back to Top