租芯片做大模型:一家创业公司的生死抉择

“野蛮人”已来,创业者打响反击战一项新技术兴起时,创业公司是等着大公司做出来,还是自己投真金白银做?一家名叫中科深智的虚拟人创业公司选择了后者。近期,中科深智发布了一款大模型,包含20亿和200亿参数两个版本。为此,他们租用了2000张英伟达A100显卡,十几个人的团队没日没夜忙了两个月,花费了数百万元现金。中科深智创始人、CEO成维忠说,当下,接入API响应速度太慢,不适应虚拟人的实时要求。并且,大厂的大模型并不会公布核心算法,这让创业公司无法迭代基础算法,被大公司牵着鼻子走。