本地Windows机器, 4090显卡, 部署32B量化模型。总体感觉及其顺畅。
下面是用该模型进行的一段新闻翻译,对比ChatGPT
原文
Chatgpt
肖恩·达菲(Sean Duffy),新任交通部长,在宣誓就职后仅数小时便面临他的首次重大危机。
达菲于周二通过参议院确认,迅速成为联邦政府应对在里根国家机场发生致命飞机失事的公众代表。该机场是距离华盛顿特区最近的机场。周三晚上,一架美国航空公司的飞机在降落时与一架携带60名乘客和4名机组人员的美军直升机相撞,导致飞机失控坠入冰冷的波托马克河。目前,机上所有人都被认为已经遇难,这起事件正有可能成为几十年来美国最致命的空难。...