Santander Value Prediction Challenge

[Eugene Lutsenko]

Так же не имеет никакого значения объем написанного ранее кода. Весь код можно написать с нуля за две недели, за месяц, ну пусть за два месяца.

Загадка:
"Сколько страниц программы в день надо писать, чтобы написать за 2 месяца такой код: http://lc.kubagro.ru/__AIDOS-X.txt"
Ответ: "Если страницы А4 и шрифт 10, то 50"

[Eugene Lutsenko]

Там очень много всего, о всем и не расскажешь...

[Eugene Lutsenko]

Дима!

Я сейчас подумал, что для минимизации RMSLE в модуле распознавания надо при запуске сделать опцию (птичку): "Минимизировать RMSLE" (по умолчанию не надо), и если, задана эта опция:

1. Провести распознавание обучающей выборки во всех моделях со всеми инт.критериями.
2. Результаты распознавания обучающей выборки записать в базу данных такой же структуры, как "Обобщение результатов2.xls".
3. Найти в этой базе наиболее достоверную модель по критерию RMSLE, подбирая два параметра: A и B (амплитуду и постоянную составляющую).
4. Провести распознавание тестовой выборки во всех моделях со всеми инт.критериями.
5. Нормировать результат распознавание тестовой выборки во всех моделях со всеми инт.критериями.

В выходной форме должны быть видны значения RMSLE всех моделей со всеми инт.критериями и указана модель и инт.крит. с минимальным RMSLE и его значение. Если эта опция не задана, то модуль распознавания должен работать как раньше.

Модуль распознавания должен работать в текущем приложении системы Эйдос и к другим приложениям не обращаться.

Сейчас формируется распознаваемая выборка для 1000 классов по 5 градаций на описательную шкалу.

В этой связи возникает вопрос: "Сколько раз можно посылать результат?". Я так понял, что вроде 3 раза. Тогда можно сразу послать результат с 200 классами и 10 градациями описательных шкал, а потом, заменить его на результат с 1000 классов и 5 гр.о.шкал, если он будет лучше и если успеем

[Eugene Lutsenko]

ОК. Я и сам думал сохранить предыдущий вариант

[Eugene Lutsenko]

Пока минимальный RMSLE какой удалось получить - 1.3328303099 (модель inf5k)

Это значение соответствует рейтингу 1358 из 4229. Правда это не на тестовой выборке, а на распознаваемой. Это уже 1-я треть команд. Я считаю для первого опыта неплохо. Но нужно все равно послать результат.

[Eugene Lutsenko]

Спасибо, Дима! Попробую разобраться

[Eugene Lutsenko]

А старые модули синтеза модели и распознавания нужно предварительно запускать или эти новые модули все делают сами?

[Eugene Lutsenko]

Спасибо. А где можно увидеть сами значения критерия? А чего ты не ложишься спать?

[Eugene Lutsenko]

спокойной ночи

[Eugene Lutsenko]

Доброе утро!

Дима!

1. В модуле распознавания в конце надо писать не "Объектов обучающей выборки", а "Объектов распознаваемой выборки".

2. Прошу все же доделать формат txt-матриц моделей в модуле синтеза моделей. А то я так фактически не могу его использовать в системе.

3. С модулями нормализации вроде все понятно, но почему-то не получаются твои результаты. Пока твой результат: минимальный RMSLE какой тебе удалось получить - 1.3328303099 (модель inf5k), повторить не получилось. В этой модели в файле results_RMSLEmin_inf5k.csv получается вот что (совсем другое):

RMSLE; 1.921272635
A; 0.200000002
B; 901367.187500000
Id; target
000d6aaf2; 3925102.25000000
000fbd867; 3325552.25000000
0027d6b71; 1087232.25000000
0028cbf45; 1726752.25000000
002a68644; 1007292.18750000
002dbeb22; 8721502.00000000

4. Запустил новые модули на модели с 1000 классов и по 5 градаций в описательных шкалах.
Модуль минимизации написал, что выход за пределы памяти (out of memory) на загрузке матрицы Inf2:
.
А вообще видно, что решение было правильным, т.е. эти модели получаются более достоверными (многие модели в районе 1.5). Жалко, что может не хватить времени их посчитать, минимизировать и нормализовать.

PS
Конечно п.1 инструкции: "1. Устанавливаете в файлы Rsp_Kpr.dbf и Rsp_Kcl.dbf обучающую выборку" можно было бы исключить, если бы модуль брал данные прямо из обучающей выборки. Тогда и п.4 инструкции: "4. Устанавливаете в файлы Rsp_Kpr.dbf и Rsp_Kcl.dbf тестовую выборку" сам собой стал бы ненужным, т.к. она там и так установлена и не испорчена на п.1.

Ссылку на модели послал на почту