Source: Slashdot
来自新加坡的嵌入式安全研究员yeokm1分享了他在1993年PC上安装Linux的副项目,并且创建了一个可在MS-DOS上运行的ChatGPT客户端。最近,他又推出了一个新项目——在DOS上安装Llama 2。
尽管传统观点认为运行本地大语言模型需要高性能计算机,特别是带有大量VRAM的GPU,但他通过一个开源项目成功让复古机器在DOS上进行Llama 2 LLM模型的推理。虽然结果有许多限制,但结果仍然令人惊讶。
该项目的一切均已开源,并且提供了可执行文件。
尽管老旧系统的推理速度较慢,但他对复古系统仍然能实现的成果感到惊讶。
科技的进步总能带来惊喜,连老机器也能焕发新生!
特别声明:本文及配图均为用户上传或者转载,本文仅代表作者个人观点和立场,不代表平台观点。其原创性以及文中陈述文字和内容未经本站证实,
对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本平台不作任何保证或承诺,请读者仅作参考,
并请自行核实相关内容。如发现稿件侵权,或作者不愿在本平台发布文章,请版权拥有者通知本平台处理。
Copyright Disclaimer: The copyright of contents (including texts, images, videos and audios)
posted above belong to the User who shared or the third-party website which the User shared from.
If you found your copyright have been infringed, please send a DMCA takedown notice to
[email protected]
来源:https://tech.slashdot.org/story/25/04/21/0026255/can-you-run-the-llama-2-llm-on-dos?utm_source=rss1.0mainlinkanon&utm_medium=feed