См. определение в файле tokenizer.php строка 65
◆ createFromString()
static createFromString |
( |
| $sql | ) |
|
|
static |
Splits a text into tokens, creates new Tokenizer object, and returns it.
- Аргументы
-
- Возвращает
- Tokenizer
См. определение в файле tokenizer.php строка 79
◆ createFromTokens()
static createFromTokens |
( |
array | $tokens | ) |
|
|
static |
Creates new Tokenizer objects and sets its tokens into given.
- Аргументы
-
array[Token] | $tokens New tokens. |
- Возвращает
- Tokenizer
См. определение в файле tokenizer.php строка 95
◆ endOfInput()
Checks if end of tokens reached.
- Возвращает
- bool
См. определение в файле tokenizer.php строка 159
◆ getTokens()
Returns all the tokens.
- Возвращает
- array[Token]
См. определение в файле tokenizer.php строка 107
◆ putBack()
Moves current position one step back.
- Возвращает
- void
См. определение в файле tokenizer.php строка 149
◆ resetState()
Resets internal state.
- Возвращает
- void
См. определение в файле tokenizer.php строка 117
◆ restoreBookmark()
Restores previously remembered position.
- Возвращает
- void
- См. также
- Tokenizer::setBookmark
См. определение в файле tokenizer.php строка 139
◆ setBookmark()
Remembers current position.
- Возвращает
- void
- См. также
- Tokenizer::restoreBookmark
См. определение в файле tokenizer.php строка 128
◆ $bookmark
◆ $index
◆ $tokens