Skip to content
New issue

Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.

By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.

Already on GitHub? Sign in to your account

cancellable_synthesisの機能を手直しし、「コアの並列実行機能」としてリリースする #677

Open
3 tasks done
takana-v opened this issue Apr 25, 2023 · 2 comments
Labels

Comments

@takana-v
Copy link
Member

内容

cancellable_synthesisはコアの実行を別プロセスに切り出し、通信の切断時にプロセスをキルすることで瞬時に音声合成をキャンセルできるようにする機能です。#166
起動時にコアのプロセスを--init_processes個生成し、それを使う(キャンセルされなければ使いまわす)仕様になっています。
このような仕様なので、多重度を上げる目的にも応用できる可能性があります。
利用率が低いであろうcancellable_synthesis機能を廃止もしくは非推奨とし、このコードを手直しして、需要があると思われる「コアの並列実行機能」としてリリースするのはどうか、という提案です。

Pros 良くなる点

多重度を上げ、多くのリクエストを処理する環境において、処理速度を改善できる可能性がある

Cons 悪くなる点

cancellable_synthesis機能が廃止もしくはdeprecatedになる

実現方法

引数を付けて実行した場合にコアを並列で起動し、/synthesisが叩かれた時に、並列実行しているコアに処理を投げるようにする
(cancellable_synthesisの機構を流用する)

VOICEVOXのバージョン

0.14.4

OSの種類/ディストリ/バージョン

  • Windows
  • macOS
  • Linux

その他

エンジンの処理は多重度1なので多重度を上げたい、という記述がある記事
https://qiita.com/uezo/items/7e476147ec6312ad8a2c

並列実行で本当に速度が改善するのかは要検証です。

@takana-v takana-v added 機能向上 要議論 実行する前に議論が必要そうなもの labels Apr 25, 2023
@github-actions github-actions bot added OS 依存:linux Linux に依存した現象 OS 依存:mac macOS に依存した現象 OS 依存:win Windows に依存した現象 labels Apr 25, 2023
@Hiroshiba
Copy link
Member

とても良いなと思いました!!

cancellable_synthesisに関して、なくしたほうがコード的にかなり綺麗になるのであれば、役割を全うしたということで消しても良いかもと思いました。
そんなにコード量変わらなければduprecatedの練習として残しておいても良いかもです。

issue内容がかなりまとまっているので、現状で議論が必要な段階はクリアそうなので、要議論ラベルは外しちゃいます!
もし実装中になにか自明じゃない点があればなんでも聞いてください!

@Hiroshiba Hiroshiba removed the 要議論 実行する前に議論が必要そうなもの label Apr 25, 2023
@tarepan tarepan added 状態:実装者募集 実装者を募集している状態 and removed OS 依存:mac macOS に依存した現象 OS 依存:linux Linux に依存した現象 OS 依存:win Windows に依存した現象 labels Mar 5, 2024
Copy link

github-actions bot commented Sep 4, 2024

本 Issue は直近 180 日間で活動がありません。今後の方針について VOICEVOX チームによる再検討がおこなわれる予定です。

Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment
Labels
Projects
None yet
Development

No branches or pull requests

3 participants