Skip to content
New issue

Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.

By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.

Already on GitHub? Sign in to your account

[Request] 请问是否有Linux客户端开发计划 #1

Open
leeyiding opened this issue Jun 6, 2024 · 2 comments
Open

[Request] 请问是否有Linux客户端开发计划 #1

leeyiding opened this issue Jun 6, 2024 · 2 comments
Assignees
Labels
enhancement New feature or request

Comments

@leeyiding
Copy link

开发者您好,目前我有Linux服务端+Linux客户端的需求,有以下疑问

  1. 请问是否有开发Linux客户端的计划
  2. 如果有Linux客户端,能否实现类似 clink 的客户端运行方式,通过设置环境变量+直接运行对应的CUDA程序,而不是需要先额外运行一个tensorlink客户端程序。
  3. 另外想请问一下相关的核心代码是否有开源计划。

非常感谢!

@nooodles2023
Copy link
Collaborator

nooodles2023 commented Jun 6, 2024

感谢关注!

  1. 目前正在专注提升整体框架的性能,以及后续的集群版本,linux的客户端计划可能需要靠后排一些;
  2. 客户端的执行方式,tensorlink目前这样做是为了适配一些windows程序可能会创建多个子进程来执行cuda,比如SD,所以tensorlink采用了用一个独立的进程vcuda来收集系统所有的cuda请求,这样做是为了给第三方程序提供一个透明的使用环境,如果linux系统上的程序使用场景不一样,也可以考虑采用clink类似的方式,每个程序单独劫持单独对接服务端,这个问题不大;
  3. 目前代码还在不断完善中,没有开源计划,后续版本稳定后,会考虑继续开源部分源码;

@leeyiding
Copy link
Author

感谢关注!

  1. 目前正在专注提升整体框架的性能,以及后续的集群版本,linux的客户端计划可能需要靠后排一些;
  2. 客户端的执行方式,tensorlink目前这样做是为了适配一些windows程序可能会创建多个子进程来执行cuda,比如SD,所以tensorlink采用了用一个独立的进程vcuda来收集系统所有的cuda请求,这样做是为了给第三方程序提供一个透明的使用环境,如果linux系统上的程序使用场景不一样,也可以考虑采用clink类似的方式,每个程序单独劫持单独对接服务端,这个问题不大;
  3. 目前代码还在不断完善中,没有开源计划,后续版本稳定后,会考虑继续开源部分源码;

感谢回复,会对此项目保持持续关注!

@nooodles2023 nooodles2023 added the enhancement New feature or request label Jun 12, 2024
Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment
Labels
enhancement New feature or request
Projects
None yet
Development

No branches or pull requests

2 participants