小窓モード


プレミアム

ログイン
設定

設定

tokenizeとは 意味・読み方・使い方

発音を聞く
プレーヤー再生
ピン留め

追加できません

(登録数上限)

単語を追加

意味・対訳 トークン化

「tokenize」を含む例文一覧

該当件数 : 5



例文

tokenize (standard module)発音を聞く 例文帳に追加

tokenize() (tokenize モジュール) - Python

in module tokenize発音を聞く 例文帳に追加

tokenize モジュール - Python

18.5 tokenize -- Tokenizer for Python source発音を聞く 例文帳に追加

18.5 tokenize -- Pythonソースのためのトークナイザ - Python

tokenize an input stream発音を聞く 例文帳に追加

入力記号列をトークン化する - 研究社 英和コンピューター用語辞典

例文

The tokenize module provides a lexical scanner for Python source code, implemented in Python.例文帳に追加

tokenizeモジュールでは、Python で実装された Pythonソースコードの字句解析器を提供します。 - Python

>>例文の一覧を見る

調べた例文を記録して、 効率よく覚えましょう
Weblio会員登録無料で登録できます!
  • 履歴機能
    履歴機能
    過去に調べた
    単語を確認!
  • 語彙力診断
    語彙力診断
    診断回数が
    増える!
  • マイ単語帳
    マイ単語帳
    便利な
    学習機能付き!
  • マイ例文帳
    マイ例文帳
    文章で
    単語を理解!
  • その他にも便利な機能が満載!
Weblio会員登録(無料)はこちらから

Weblio英和対訳辞書での「tokenize」の意味

tokenize

Weblio英和対訳辞書はプログラムで機械的に意味や英語表現を生成しているため、不適切な項目が含まれていることもあります。ご了承くださいませ。

Wiktionary英語版での「tokenize」の意味

tokenize

出典:『Wiktionary』 (2025/10/16 17:38 UTC )

別の表記

  • tokenise

語源

From token +‎ -ize.

発音

派生語

関連する語

アナグラム


Weblio例文辞書での「tokenize」に類似した例文

tokenize

Weblio例文辞書はプログラムで機械的に意味や英語表現を生成しているため、不適切な項目が含まれていることもあります。ご了承くださいませ。

tokenizeのページの著作権
英和・和英辞典 情報提供元は 参加元一覧 にて確認できます。

   
研究社研究社
Copyright (c) 1995-2026 Kenkyusha Co., Ltd. All rights reserved.
Text is available under Creative Commons Attribution-ShareAlike (CC-BY-SA) and/or GNU Free Documentation License (GFDL).
Weblio英和・和英辞典に掲載されている「Wiktionary英語版」の記事は、Wiktionaryのtokenize (改訂履歴)の記事を複製、再配布したものにあたり、Creative Commons Attribution-ShareAlike (CC-BY-SA)もしくはGNU Free Documentation Licenseというライセンスの下で提供されています。

ピン留めアイコンをクリックすると単語とその意味を画面の右側に残しておくことができます。

こんにちは ゲスト さん

ログイン

Weblio会員(無料)になると

会員登録のメリット検索履歴を保存できる!

会員登録のメリット語彙力診断の実施回数増加!

無料会員に登録する

このモジュールを今後表示しない
みんなの検索ランキング
閲覧履歴
無料会員登録をすると、
単語の閲覧履歴を
確認できます。
無料会員に登録する
英→日 日→英
こんにちは ゲスト さん

ログイン

Weblio会員(無料)になると

会員登録のメリット検索履歴を保存できる!

会員登録のメリット語彙力診断の実施回数増加!

無料会員に登録する

©2026 GRAS Group, Inc.RSS