AlephOne


The Presentation inside:

Slide 0

AlephOne Positive – Negative Category Analysis CEO Russia Гиргидов Рубен Автоматизированные методы определения эмоций и отношения потребителя к продукту.


Slide 1

Задача. Основа работы системы это категоризация текстов на базе различных критериев. Базовый алгоритм предполагает произвольное количество категорий. Критерии и их веса определяются как нечеткие логические конструкции и выводы. При анализе текстов использовать не только «лингвистические» критерии, но и сопутствующую информацию Алгоритм предполагает обучение с минимальным участием человека


Slide 2

Категории и начальные требования Адаптация алгоритма категоризации Алгоритм обучаемый с учителем 2 Категории: Positive Negative Тренировочный корпус текстов ~ 50% заведомо позитивных сообщений и 50% отрицательных: 100 сообщений с сайта Buy.com форум телефонов 100 сообщений с сайта Amazon форум бытовой техники Словарь термов должен выделяться автоматически


Slide 3

Шаги обучения системы 1 Генерация словаря термов Генерация словаря на базе стандартных словарей английского языка Генерация словаря на базе Wiki Генерация словаря на основе базы сообщений из корпуса Генерация правил разбора сообщения Определение важнейших параметров сообщения для каждого форума: Частотные Текстовые Мета информационные


Slide 4

Шаги обучения системы 2


Slide 5

Шаги обучения системы 3 Составление функционала принадлежности к категории Нечеткие логические конструкции Весовые коэффициенты Подстановка корпуса положительных и отрицательных сообщений для определения весовых коэффициентов 100 сообщений с сайта Buy.com форум телефонов 100 сообщений с сайта Amazon форум бытовой техники и электроники


Slide 6

BlackBerry Storm


Slide 7

Android G1


Slide 8

iPhone3G


Slide 9

Результаты исследования 1 Словарь термов Сгенерированный словарь практически не повлиял на точность отнесения того или иного сообщения к категории, но повлиял на уверенность отнесения отдельного сообщения к категории (чем обширней словарь, тем хуже результат) Худший результат у формального словаря английского языка (результаты не валидны) Вывод: метод определения термов, использованный в нашей компании в целом оказался эффективен для английского языка


Slide 10

Результаты исследования 2 Словарь Stopword отклонение составило не более 5-10% Google stopwords средний результат Wordnet stopwords худший результат Созданный нами лучший результат Вывод: вероятно сказалась привязка фильтра к «форумному сленгу». У Google средний результат говорит, что они вынуждено идут на компромиссы, т.к. имеют дело с текстами всех тематик одновременно. У Wordnet худший результат, т.к. они имеют дело с текстами больших объемов и достаточно чистыми.


Slide 11

Результаты исследования 3 Тематика обучающего корпуса текстов практически не имеет значения. Ее можно определить как техническая. Машины, Телефоны Бытовая техника Электроника Необходимо соблюдать баланс между положительными и отрицательными сообщениями (не более 20%) Вывод: Точность определения составила 75%±10% вне зависимости от обучающей выборки.


Slide 12

Результаты исследования 4 Наибольшую сложность представляла величина уверенности отнесения сообщения негативным или позитивным текстам. Увеличение Длины сообщения только ухудшало ситуацию. Есть некоторые темы, для которых не существует позитивных сообщений. К ним относятся: Политика Бюрократические процедуры Алгоритм оказался достаточно устойчив к сообщениям с условиями (например: «вроде бы не плох») В целом использование методов категоризации текстов применительно к эмоциональным категориям применимо, но осложняется, требованием единственности эмоции на текст.


Slide 13

Вывод Использование методов категоризации текстов, применительно к эмоциональным категориям работает, но осложняется, требованием единственности эмоции на текст.


Slide 14

Текущее состояние В настоящее время исследования приостановлены и разработка продукта заморожена, в связи с отсутствием коммерческого спроса Вопросы


Slide 15

Конец Автоматизированные методы определения эмоций и отношения потребителя к продукту. Рубен Гиргидов [email protected]


×

HTML:





Ссылка: