大是因为里面模型大，21G的大模型，14G的大模型，这模型你下了才知道有多折磨人，我帮你们下完了，就能直接用

' c1 \7 x* {! d% ^, R6 S如果你的模型加载不出来，你可以看看左上角你的什么比较大，内存，显存还是gpu，然后你可以找到配置，找到模型参数的strategy选择不同的内存，显存还是gpu运行方式，然后点击转换，就可以转换成你可以用的模型，然后点击加载，等到加载完成，就可以对话，写小说了，如果以上方法都不能解决你的问题，那么可以去B站搜索akkv，有详细的教程

我看了一下，不能瑟瑟的原因可能是因为更新了版本，你们试试不要更新版本

15267158147 发表于 2024-3-10 17:55
你不带脑子怪谁，我都教你怎么降低内存使用了，再说里面还有小模型，你不会看吗
3 [% F- y, Q5 i ...

这么强的攻击性啊？你那几个模型我都试了，都是16G吃满然后加载极其缓慢，我放在M2的固态都要加载十几分钟，加载完之后，聊天模型也有问题，回答速度也极其缓慢

15267158147 发表于 2024-3-10 18:25
你不适合这个，别玩了

( H8 r, l* x$ g; ~0 x  e" N已经删了，解压完74G，太占地方了，5币就当支持你分享东西了

15267158147 发表于 2024-3-10 12:06
" e+ b0 Y( p; E( n& y! Q% n如果模型加载不出来，可以下载里面自带的小一点的模型

  W% P" W. A0 T! G# q9 z5 W- H能加载出来，就是慢点，Python窗口开始动了就好了，楼主我这步没问题吧？你下载好的我可以不读直接用吗？我在右上角模型栏不知道那个是14或者21的模型。

如果模型加载不出来，可以下载里面自带的小一点的模型

感谢分享，下着玩玩

咋破限啊，有点色色就被限制了

yeyumao01 发表于 2024-3-10 11:11
$ a' G1 M/ C, U+ l  H# z% M  U' y老哥，怎么说？

3 h( l2 k. Y! e1 z4 n: o, F等会儿，正在读模型，目前情况是，不吃gpu 不吃cpu 但是16g运存，两个ddr4的内存条直接拉爆，运存一直是拉满状态，这状态持续了10分钟左右了，如果是32或者64运存的可能会快点。目前是这样，还没读完，

network error什么意思？

qdss123 发表于 2024-6-5 00:09
% K5 |: i! W3 W" j打开方式是啥？我这一点打开全都是word，记事本啥的！

一个启动器你要啥打开方式，双击算吗

打开方式是啥？我这一点打开全都是word，记事本啥的！

罗天 发表于 2024-6-4 18:18
: v' O0 R/ d# g基本等于一秒一字，不过可以跑……谢谢大佬分享。但是一些拘束性的内容生成不了，说不平等…… ...

你不要更新，把不平等啥的那段话删掉，、重新生成几次就好了
) t# V( Z$ u4 n( i  c

基本等于一秒一字，不过可以跑……谢谢大佬分享。但是一些拘束性的内容生成不了，说不平等……

568658203 发表于 2024-5-31 08:23
3 |1 U$ F5 H; |& q  o6 R- d" \3 W我这确实下不了，要不兄弟你帮我把所有要用到的组件全部下好，然后把完整的不用再安装东西可以直接用的直 ...

8 K% i: B; c$ }3 W% p: e. c/ A我给你个夸克网盘链接，模型都在里面，你自己下一个https://pan.quark.cn/s/35e34bfa3be4
- o! |, Z# e2 W( `0 P! r

15267158147 发表于 2024-5-25 19:08
! s$ K8 U2 _) B9 i可以下的，你要是有机场就比较快，因为这是国外的模型，会限流

5 w! z; i8 Y# H9 B7 W; M我这确实下不了，要不兄弟你帮我把所有要用到的组件全部下好，然后把完整的不用再安装东西可以直接用的直接度盘发给我，我可以开个500币的悬赏
: x- Y: x, _  ~2 E, T  J2 q9 }  D* x

可以用，不过需要自己去下载懒人包，然后现在楼主链接里只有exe的运行端了，21G数据模型没了，

568658203 发表于 2024-5-27 11:27
3 F5 O+ A% N' W% V我这不是慢，他是压根不开始下载

就是这样的，下的很慢，你过一会就要看一眼
0 [7 Z+ C$ Y9 |0 s

15267158147 发表于 2024-5-27 10:03
那我没办法，慢点就慢点吧，本来我都下完的，可以直接用，有人说太大了，然后我内存也不够了，就给一个启 ...

% H& \' c6 k, L" s' P  w3 i2 n我这不是慢，他是压根不开始下载

568658203 发表于 2024-5-27 09:37
; s4 K$ v0 H# W; r) C不行啊，开着VPN还是下不了，一直都是暂停的点开就自动关上了:dizzy:

: F  ?1 M6 j( N' D' b0 c. r那我没办法，慢点就慢点吧，本来我都下完的，可以直接用，有人说太大了，然后我内存也不够了，就给一个启动器了
) o: C  T7 C/ \. [) s

15267158147 发表于 2024-5-25 19:08
( [8 s  N- ]; }; A可以下的，你要是有机场就比较快，因为这是国外的模型，会限流

不行啊，开着VPN还是下不了，一直都是暂停的点开就自动关上了:dizzy:

95933365 发表于 2024-4-14 21:44
大佬，我想问下可以色色的对话是用的那个模型啊

同问。所有模型都下载就太大了
2 @8 h; u5 i! c* p* F1 H  `: ?( P' |

568658203 发表于 2024-5-25 13:00
我这模型根本下不了啊？

* o; }. u7 J6 h0 U: a  [( T8 N5 b可以下的，你要是有机场就比较快，因为这是国外的模型，会限流
0 _1 n: J8 x) G0 P: K- ^

可以用用，支持一下。

我这模型根本下不了啊？

ccrpg 发表于 2024-5-23 23:34
" ?+ P  V4 Y, o( M. O4 J楼主怎么没有模型了呀，可以重新发一下吗

你可以自己下

楼主怎么没有模型了呀，可以重新发一下吗

windman 发表于 2024-5-18 19:53
3 G8 T3 A+ y& v- H请问这个能离线运行吗？

可以的
$ T" i( I2 j7 t; M

请问这个能离线运行吗？

模型下载速度很慢是什么原因 千兆网1mb不到的速度。。