翻訳横丁の裏路地

We can do anything we want to do if we stick to it long enough.


どのローカルLLMが動くのか

以前、「完全オフライン環境で動作する生成AIモデルの日英翻訳能力比較レポート」という記事を書きましたが、情報漏洩リスクのあるクラウド系生成AIを避け、ローカルLLMの利用を考える企業や人が増えているようです。

そこで問題になってくるのは、自分のPCにローカルLLMを導入する場合、どのモデルなら快適な速度で動くのかという点ですよね。それを教えてくれるサイトがありました。以下URLの「Can I Run AI Locally?」というサイトです。

https://www.canirun.ai/

ローカルLLMを導入する予定のPCでこのサイトにアクセスすると、使用しているPCのCPU, GPU, Memoryを検出して、さまざまなモデルを動かした場合の快適度を表示してくれます。
次のスクショは、私のPCをチェックした結果です。

右に表示される「RUNS WELL」や「DECENT」が動作の快適度ですが、私の体感と合っています。ライセンス種類も表示してくれるので、商用利用される場合は参考になるでしょう。

流石に私のPCのスペックが低いので、パラメータサイズ14B辺りまでが精一杯のようです。ちなみに私が持つMacbook Air (M1, 8GB)で確認したら、4B辺りで「DECENT」でした。

以上、ローカルLLMを選択する際の参考にしてみてください。


人間はいつまで翻訳を職業にできるのだろうか

私が翻訳会社(に類する企業)に勤め始めたのが、今から20年程前(え?もうそんなに昔?(笑))。

当時はまだNMTも生成AIもありませんでした。頓珍漢な出力をする機械翻訳(MT)は存在していましたが、ビジネス的に利用するメリットを感じず、手を出しませんでした。あの頃は、産業系翻訳の依頼がまだまだ潤沢にあった時代でした。

いまはどうでしょうか。2016年に Google が NMT を公開し、その後、2022年にOpenAiが生成AIであるChatGPTを公開して一般での利用が可能となりました。その後も生成AI技術はどんどんと進化していますが、これらAIの普及に伴って翻訳の依頼が減少したという話を良く耳にします。私もその影響を受けたひとりです。また、翻訳に携わる人々の仕事の内容が少しずつ変化してきているように思います。以前から翻訳をしていた方々の仕事内容も、翻訳からチェックやポストエディットに軸足が変化しているように見えます。

この半年を見ても生成AIの進歩には目を見張るものがあります。この先、我々翻訳者、あるいは翻訳関係者の仕事はどうなっていくのでしょうか。最近、翻訳者が集まると必ず出る話題のひとつですよね。程度に差はあれ「翻訳という仕事が徐々に奪われていく未来」を多くの人が感じているように思います。

では、私たちは今、どの辺りにいるのでしょうか。

続きを読む