Merge branch 'staging' into claude-no-filler

f730e2179b6a284492a9b514e04a86220d1c350b

Cohee <18619528+Cohee1207@users.noreply.github.com>

Parents: 9382845dee9ff283cdc774ef38b4213634343b33 a5b53b0e75b82b65dc017afb66bd6020e6f05cdb
5 files changed, +66 -3Ignore whitespace
.github/readme-ru_ru.md+40 -0
@@ -229,6 +229,46 @@ SillyTavern сохраняет ключи от ваших API в файле `sec
2292291. Зайдите в файл `config.yaml` и установите `allowKeysExposure` в положение `true`.
2302302. Перезапустите сервер SillyTavern.
231231
232+## Аргументы командной строки
233+
234+Вы можете передавать аргументы командной строки при запуске сервера SillyTavern, чтобы переопределять настройки из `config.yaml`.
235+
236+### Примеры
237+
238+```shell
239+node server.js --port 8000 --listen false
240+# или
241+npm run start -- --port 8000 --listen false
242+# или (только на Windows)
243+Start.bat --port 8000 --listen false
244+```
245+
246+### Поддерживаемые аргументы
247+
248+| Аргумент | Описание | Тип |
249+|-------------------------|----------------------------------------------------------------------------------------------------------------|----------|
250+| `--version` | Показывает номер версии. | boolean |
251+| `--enableIPv6` | Включает IPv6. | boolean |
252+| `--enableIPv4` | Включает IPv4. | boolean |
253+| `--port` | Устанавливает порт, котрый будет использовать SillyTavern. Если не указан, то используется yaml-конфиг 'port'. | number |
254+| `--dnsPreferIPv6` | Отдает предпочтение IPv6 для dns. Если не указан, то используется yaml-конфиг 'preferIPv6'. | boolean |
255+| `--autorun` | Автоматический запуск SillyTavern в браузере. Если не указан, то используется yaml-конфиг 'autorun'. | boolean |
256+| `--autorunHostname` | Имя хоста автозапуска, лучше оставить на 'auto'. | string |
257+| `--autorunPortOverride` | Переопределяет порт для автозапуска. | string |
258+| `--listen` | SillyTavern будет прослушивать все сетевые интерфейсы. Если не указан, то используется yaml-конфиг 'listen'. | boolean |
259+| `--corsProxy` | Включает CORS-прокси. Если не указан, то используется yaml-конфиг 'enableCorsProxy'. | boolean |
260+| `--disableCsrf` | Отключает защиту от CSRF. | boolean |
261+| `--ssl` | Включает SSL. | boolean |
262+| `--certPath` | Путь к файлу c сертификатом. | string |
263+| `--keyPath` | Путь к файлу с закрытым ключом. | string |
264+| `--whitelist` | Включает режим белого списка. | boolean |
265+| `--dataRoot` | Корневой каталог для хранения данных. | string |
266+| `--avoidLocalhost` | Избегает использования 'localhost' для автозапуска в режиме 'auto'. | boolean |
267+| `--basicAuthMode` | Включает простую аутентификацию. | boolean |
268+| `--requestProxyEnabled` | Разрешает использование прокси для исходящих запросов. | boolean |
269+| `--requestProxyUrl` | URL-адрес прокси (протоколы HTTP или SOCKS). | string |
270+| `--requestProxyBypass` | Bypass список прокси (список хостов, разделенных пробелами). | array |
271+
232272## Удалённое подключение
233273
234274В основном этим пользуются тогда, когда хотят использовать SillyTavern с телефона, запустив сервер SillyTavern на стационарном ПК в той же Wi-Fi-сети.
public/index.html+11 -3
@@ -1291,6 +1291,14 @@
12911291 <input class="neo-range-slider" type="range" id="epsilon_cutoff_textgenerationwebui" name="volume" min="0" max="9" step="0.01">
12921292 <input class="neo-range-input" type="number" min="0" max="9" step="0.01" data-for="epsilon_cutoff_textgenerationwebui" id="epsilon_cutoff_counter_textgenerationwebui">
12931293 </div>
1294+ <div data-tg-type="aphrodite" class="alignitemscenter flex-container flexFlowColumn flexBasis30p flexGrow flexShrink gap0">
1295+ <small>
1296+ <span data-i18n="Top nsigma">Top nsigma</span>
1297+ <div class="fa-solid fa-circle-info opacity50p" title="A sampling method that filters logits based on their statistical properties. It keeps tokens within n standard deviations of the maximum logit value, providing a simpler alternative to top-p/top-k sampling while maintaining sampling stability across different temperatures."></div>
1298+ </small>
1299+ <input class="neo-range-slider" type="range" id="nsigma_textgenerationwebui" name="volume" min="0" max="5" step="0.01">
1300+ <input class="neo-range-input" type="number" min="0" max="5" step="0.01" data-for="nsigma_textgenerationwebui" id="nsigma_counter_textgenerationwebui">
1301+ </div>
12941302 <div data-tg-type="ooba,mancer,aphrodite" class="alignitemscenter flex-container flexFlowColumn flexBasis30p flexGrow flexShrink gap0">
12951303 <small>
12961304 <span data-i18n="Eta Cutoff">Eta Cutoff</span>
@@ -1334,12 +1342,12 @@
13341342 <input class="neo-range-slider" type="range" id="presence_pen_textgenerationwebui" name="volume" min="-2" max="2" step="0.01" />
13351343 <input class="neo-range-input" type="number" min="-2" max="2" step="0.01" data-for="presence_pen_textgenerationwebui" id="presence_pen_counter_textgenerationwebui">
13361344 </div>
13371345 <div data-tg-type="aphrodite, ooba" class="alignitemscenter flex-container flexFlowColumn flexBasis30p flexGrow flexShrink gap0">
13381346 <small data-i18n="No Repeat Ngram Size">No Repeat Ngram Size</small>
13391347 <input class="neo-range-slider" type="range" id="no_repeat_ngram_size_textgenerationwebui" name="volume" min="0" max="20" step="1">
13401348 <input class="neo-range-input" type="number" min="0" max="20" step="1" data-for="no_repeat_ngram_size_textgenerationwebui" id="no_repeat_ngram_size_counter_textgenerationwebui">
13411349 </div>
13421350 <div data-tg-type="tabby, aphrodite" class="alignitemscenter flex-container flexFlowColumn flexBasis30p flexGrow flexShrink gap0">
13431351 <small data-i18n="Skew">Skew</small>
13441352 <input class="neo-range-slider" type="range" id="skew_textgenerationwebui" name="volume" min="-5" max="5" step="0.01" />
13451353 <input class="neo-range-input" type="number" min="-5" max="5" step="0.01" data-for="skew_textgenerationwebui" id="skew_counter_textgenerationwebui">
@@ -1394,7 +1402,7 @@
13941402 </div>
13951403 </div>
13961404
13971405 <div data-tg-type="aphrodite, ooba, koboldcpp, tabby, llamacpp" id="dryBlock" class="wide100p">
13981406 <h4 class="wide100p textAlignCenter" title="DRY penalizes tokens that would extend the end of the input into a sequence that has previously occurred in the input. Set multiplier to 0 to disable." data-i18n="[title]DRY_Repetition_Penalty_desc">
13991407 <label data-i18n="DRY Repetition Penalty">DRY Repetition Penalty</label>
14001408 <a href="https://github.com/oobabooga/text-generation-webui/pull/5677" target="_blank">
public/scripts/chat-templates.js+5 -0
@@ -65,6 +65,11 @@ const parse_derivation = derivation => (typeof derivation === 'string') ? {
6565} : derivation;
6666
6767export async function deriveTemplatesFromChatTemplate(chat_template, hash) {
68+ if (chat_template.trim() === '') {
69+ console.log('Missing chat template.');
70+ return null;
71+ }
72+
6873 if (hash in hash_derivations) {
6974 return parse_derivation(hash_derivations[hash]);
7075 }
public/scripts/power-user.js+5 -0
@@ -642,6 +642,10 @@ async function CreateZenSliders(elmnt) {
642642 numSteps = 50;
643643 decimals = 1;
644644 }
645+ if (sliderID == 'nsigma') {
646+ numSteps = 50;
647+ decimals = 1;
648+ }
645649 //customize steps
646650 if (sliderID == 'mirostat_mode_textgenerationwebui' ||
647651 sliderID == 'mirostat_mode_kobold') {
@@ -686,6 +690,7 @@ async function CreateZenSliders(elmnt) {
686690 sliderID == 'penalty_alpha_textgenerationwebui' ||
687691 sliderID == 'length_penalty_textgenerationwebui' ||
688692 sliderID == 'epsilon_cutoff_textgenerationwebui' ||
693+ sliderID == 'nsigma' ||
689694 sliderID == 'rep_pen_range' ||
690695 sliderID == 'eta_cutoff_textgenerationwebui' ||
691696 sliderID == 'top_a_textgenerationwebui' ||
public/scripts/textgen-settings.js+5 -0
@@ -193,6 +193,7 @@ const settings = {
193193 openrouter_allow_fallbacks: true,
194194 xtc_threshold: 0.1,
195195 xtc_probability: 0,
196+ nsigma: 0.0,
196197 featherless_model: '',
197198};
198199
@@ -265,6 +266,7 @@ export const setting_names = [
265266 'openrouter_allow_fallbacks',
266267 'xtc_threshold',
267268 'xtc_probability',
269+ 'nsigma',
268270];
269271
270272const DYNATEMP_BLOCK = document.getElementById('dynatemp_block_ooba');
@@ -1186,6 +1188,7 @@ export function getTextGenGenerationData(finalPrompt, maxTokens, isImpersonate,
11861188 'sampler_order': settings.type === textgen_types.KOBOLDCPP ? settings.sampler_order : undefined,
11871189 'xtc_threshold': settings.xtc_threshold,
11881190 'xtc_probability': settings.xtc_probability,
1191+ 'nsigma': settings.nsigma,
11891192 };
11901193 const nonAphroditeParams = {
11911194 'rep_pen': settings.rep_pen,
@@ -1253,7 +1256,9 @@ export function getTextGenGenerationData(finalPrompt, maxTokens, isImpersonate,
12531256 'dynatemp_exponent': dynatemp ? settings.dynatemp_exponent : undefined,
12541257 'xtc_threshold': settings.xtc_threshold,
12551258 'xtc_probability': settings.xtc_probability,
1259+ 'nsigma': settings.nsigma,
12561260 'custom_token_bans': toIntArray(banned_tokens),
1261+ 'no_repeat_ngram_size': settings.no_repeat_ngram_size,
12571262 };
12581263
12591264 if (settings.type === OPENROUTER) {