КУРСОВАЯ РАБОТА
по дисциплине «Информатика»
по теме: «Компьютерная лингвистика»
ВВЕДЕНИЕ
1. Место и роль компьютерной лингвистики в лингвистических исследованиях
2. Современные интерфейсы компьютерной лингвистики
ЗАКЛЮЧЕНИЕ
ЛИТЕРАТУРА
Введение
В жизни современного общества важную роль играют автоматизированные информационные технологии. С течением времени их значение непрерывно возрастает. Но развитие информационных технологий происходит весьма неравномерно: если современный уровень вычислительной техники и средств связи поражает воображение, то в области смысловой обработки информации успехи значительно скромнее. Эти успехи зависят, прежде всего, от достижений в изучении процессов человеческого мышления, процессов речевого общения между людьми и от умения моделировать эти процессы на ЭВМ.
Когда речь идет о создании перспективных информационных технологий, то проблемы автоматической обработки текстовой информации, представленной на естественных языках, выступают на передний план. Это определяется тем, что мышление человека тесно связано с его языком. Более того, естественный язык является инструментом мышления. Он является также универсальным средством общения между людьми – средством восприятия, накопления, хранения, обработки и передачи информации. Проблемами использования естественного языка в системах автоматической обработки информации занимается наука компьютерная лингвистика. Эта наука возникла сравнительно недавно – на рубеже пятидесятых и шестидесятых годов прошлого столетия. За прошедшие полвека в области компьютерной лингвистики были получены значительные научные и практические результаты: были созданы системы машинного перевода текстов с одних естественных языков на другие, системы автоматизированного поиска информации в текстах, системы автоматического анализа и синтеза устной речи и многие другие. Данная работа посвящена построению оптимального компьютерного интерфейса средствами компьютерной лингвистики при проведении лингвистических исследований.
В современном мире при проведении различных лингвистических исследований все более активно используется компьютерная лингвистика.
Компьютерная лингвистика – это область знаний, связанная c решением задач автоматической обработки информации, представленной на естественном языке. Центральными научными проблемами компьютерной лингвистики являются проблема моделирования процесса понимания смысла текстов (перехода от текста к формализованному представлению его смысла) и проблема синтеза речи (перехода от формализованного представления смысла к текстам на естественном языке). Эти проблемы возникают при решении ряда прикладных задач и, в частности, задач автоматического обнаружения и исправления ошибок при вводе текстов в ЭВМ, автоматического анализа и синтеза устной речи, автоматического перевода текстов с одних языков на другие, общения с ЭВМ на естественном языке, автоматической классификации и индексирования текстовых документов, их автоматического реферирования, поиска документов в полнотекстовых базах данных.
Лингвистические средства, создаваемые и применяемые в компьютерной лингвистике, можно условно разделить на две части: декларативную и процедурную. К декларативной части относятся словари единиц языка и речи, тексты и различного рода грамматические таблицы, к процедурной части – средства манипулирования единицами языка и речи, текстами и грамматическими таблицами. Компьютерный интерфейс относится к процедурной части компьютерной лингвистики.
Успех в решении прикладных задач компьютерной лингвистики зависит, прежде всего, от полноты и точности представления в памяти ЭВМ декларативных средств и от качества процедурных средств. На сегодняшний день необходимый уровень решения этих задач пока еще не достигнут, хотя работы в области компьютерной лингвистики ведутся во всех развитых странах мира (Россия, США, Англия, Франция, Германия, Япония и др.).
Тем не менее, можно отметить серьезные научные и практические достижения в области компьютерной лингвистики. Так в ряде стран(Россия, США, Япония, и др.) построены экспериментальные и промышленные системы машинного перевода текстов с одних языков на другие, построен ряд экспериментальных систем общения с ЭВМ на естественном языке, ведутся работы по созданию терминологических банков данных, тезаурусов, двуязычных и многоязычных машинных словарей (Россия, США, Германия, Франция и др.), строятся системы автоматического анализа и синтеза устной речи (Россия, США, Япония и др.), ведутся исследования в области построения моделей естественных языков.
Важной методологической проблемой прикладной компьютерной лингвистики является правильная оценка необходимого соотношения между декларативной и процедурной компонентами систем автоматической обработки текстовой информации. Чему отдать предпочтение: мощным вычислительным процедурам, опирающимся на относительно небольшие словарные системы с богатой грамматической и семантической информацией, или мощной декларативной компоненте при относительно простых компьютерных интерфейсах? Большинство ученых считают что, второй путь предпочтительнее. Он быстрее приведет к достижению практических целей, так как при этом меньше встретится тупиков и трудно преодолимых препятствий и здесь можно будет в более широких масштабах использовать ЭВМ для автоматизации исследований и разработок.
Необходимость мобилизации усилий, прежде всего, на развитии декларативной компоненты систем автоматической обработки текстовой информации подтверждается полувековым опытом развития компьютерной лингвистики. Ведь здесь, несмотря на бесспорные успехи этой науки, увлечение алгоритмическими процедурами не принесло ожидаемого успеха. Наступило даже некоторое разочарование в возможностях процедурных средств.
В свете вышеизложенного, представляется перспективным такой путь развития компьютерной лингвистики, когда основные усилия будут направлены на создание мощных словарей единиц языка и речи, изучение их семантико-синтаксической структуры и на создание базовых процедур морфологического, семантико-синтаксического и концептуального анализа и синтеза текстов. Это позволит в дальнейшем решать широкий спектр прикладных задач.
Перед компьютерной лингвистикой стоят, прежде всего, задачи лингвистического обеспечения процессов сбора, накопления, обработки и поиска информации. Наиболее важными из них являются:
1. Автоматизация составления и лингвистической обработки машинных словарей;
2. Автоматизация процессов обнаружения и исправления ошибок при вводе текстов в ЭВМ;
3. Автоматическое индексирование документов и информационных запросов;
4. Автоматическая классификация и реферирование документов;
5. Лингвистическое обеспечение процессов поиска информации в одноязычных и многоязычных базах данных;
6. Машинный перевод текстов с одних естественных языков на другие;
7. Построение лингвистических процессоров, обеспечивающих общение пользователей с автоматизированными интеллектуальными информационными системами (в частности, с экспертными системами) на естественном языке, или на языке, близком к естественному;
8. Извлечение фактографической информации из неформализованных текстов.
Подробно остановимся на проблемах, наиболее относящихся к теме исследования.
В практической деятельности информационных центров есть необходимость решения задачи автоматизированного обнаружения и исправления ошибок в текстах при их вводе в ЭВМ. Эта комплексная задача может быть условно расчленена на три задачи – задачи орфографического, синтаксического и семантического контроля текстов. Первая из них может быть решена с помощью процедуры морфологического анализа, использующей достаточно мощный эталонный машинный словарь основ слов. В процессе орфографического контроля слова текста подвергаются морфологическому анализу, и если их основы отождествляются с основами эталонного словаря, то они считаются правильными; если не отождествляются, то они в сопровождении микроконтекста выдаются на просмотр человеку. Человек обнаруживает и исправляет искаженные слова, а соответствующая программная система вносит эти исправления в корректируемый текст.
Задача синтаксического контроля текстов с целью обнаружения в них ошибок существенно сложнее задачи их орфографического контроля. Во-первых, потому, что она включает в свой состав и задачу орфографического контроля как свою обязательную компоненту, а, во-вторых, потому, что проблема синтаксического анализа неформализованных текстов в полном объеме еще не решена. Тем не менее, частичный синтаксический контроль текстов вполне возможен. Здесь можно идти двумя путями: либо составлять достаточно представительные машинные словари эталонных синтаксических структур и сравнивать с ними синтаксические структуры анализируемого текста; либо разрабатывать сложную систему правил проверки грамматической согласованности элементов текста. Первый путь нам представляется более перспективным, хотя он, конечно, не исключает и возможности применения элементов второго пути. Синтаксическая структура текстов должна описываться в терминах грамматических классов слов (точнее – в виде последовательностей наборов грамматической информации к словам).
Задачу семантического контроля текстов с целью обнаружения в них смысловых ошибок следует отнести к классу задач искусственного интеллекта. В полном объеме она может быть решена только на основе моделирования процессов человеческого мышления. При этом, по-видимому, придется создавать мощные энциклопедические базы знаний и программные средства манипулирования знаниями. Тем не менее, для ограниченных предметных областей и для формализованной информации эта задача вполне разрешима. Она должна ставиться и решаться как задача семантико-синтаксического контроля текстов.
На филфаке Высшей школы экономики запускается новая магистерская программа, посвященная компьютерной лингвистике: тут ждут абитуриентов с гуманитарным и математическим базовым образованием и всех, кому интересно решать задачи в одной из самых перспективных отраслей науки. Ее руководитель Анастасия Бонч-Осмоловская рассказала «Теориям и практикам», что такое компьютерная лингвистика, почему роботы не заменят человека и чему будут учить в магистратуре ВШЭ по компьютерной лингвистике.
Эта программа - чуть ли не единственная такого рода в России. А вы где сами учились?
Я училась в МГУ на отделении теоретической и прикладной лингвистики филологического факультета. Попала туда не сразу, сначала поступила на русское отделение, но потом всерьез увлеклась лингвистикой, и меня привлекла атмосфера, которая остается на кафедре сих пор. Самое главное там - хороший контакт между преподавателями и студентами и их взаимная заинтересованность.
Когда у меня родились дети и надо было зарабатывать на жизнь, я пошла в сферу коммерческой лингвистики. В 2005 году было не очень понятно, что представляет из себя эта область деятельности как таковая. Я работала в разных лингвистических фирмах: начинала с небольшой фирмы при сайте Public.ru - это такая библиотека СМИ, там я начала заниматься лингвистическими технологиями. Потом год работала в Роснанотехе, где была идея сделать аналитических портал, чтобы данные на нем автоматически структурировались. Потом я руководила лингвистическим отделом в компании «Авикомп» - это уже серьезное производство в области компьютерной лингвистики и семантических технологий. Параллельно я вела курс по компьютерной лингвистике в МГУ и старалась сделать его более современным.
Два ресурса для лингвиста: - сайт, созданный лингвистами для научных и прикладных исследований, связанных с русским языком. Это модель русского языка, представленная с помощью огромного массива текстов разных жанров и периодов. Тексты снабжены лингвистической разметкой, с помощью которой можно получать информацию о частотности тех или иных языковых явлений. Ворднет - огромная лексическая база английского языка, главная идея Ворднета - связать в одну большую сеть не слова, но их смыслы. Ворднет можно скачивать и использовать для собственных проектов.
А чем занимается компьютерная лингвистика?
Это максимально междисциплинарная область. Тут самое главное понимать, что творится в электронном мире и кто тебе поможет сделать конкретные вещи.
Нас окружает очень большое количество дигитальной информации, существует множество бизнес-проектов, успех которых зависит от обработки информации, эти проекты могут относиться к сфере маркетинга, политики, экономики и чего угодно. И очень важно уметь обращаться с этой информацией эффективно - главное не только быстрота обработки информации, но и легкость, с которой ты можешь, отсеяв шум, достать те данные, которые тебе нужны, и создать из них цельную картину.
Раньше с компьютерной лингвистикой были связаны какие-то глобальные идеи, например: люди думали, что машинный перевод заменит человеческий, вместо людей будут работать роботы. Но сейчас это кажется утопией, и машинный перевод используется в поисковых системах для быстрого поиска на незнакомом языке. То есть сейчас лингвистика редко занимается абстрактными задачами - в основном какими-то маленькими штучками, которые можно вставить в большой продукт и на этом заработать.
Одна из больших задач современной лингвистики - семантический web, когда поиск происходит не просто по совпадению слов, а по смыслу, а все сайты так или иначе размечены по семантике. Это может быть полезно, например, для полицейских или медицинских отчетов, которые пишутся каждый день. Анализ внутренних связей дает много нужной информации, а читать и считать это вручную невероятно долго.
В двух словах, у нас есть тысяча текстов, надо разложить их по кучкам, представить каждый текст в виде структуры и получить таблицу, с которой уже можно работать. Это называется обработка неструктурированной информации. С другой стороны, компьютерная лингвистика занимается, например, созданием искусственных текстов. Есть такая компания, которая придумала механизм генерации текстов на темы, на которые человеку писать скучно: изменение цен на недвижимость, прогноз погоды, отчет о футбольных матчах. Заказывать человеку эти тексты гораздо дороже, притом компьютерные тексты на такие темы написаны связным человеческим языком.
Разработками в области поиска неструктурированной информации в России активно занимается «Яндекс», «Лаборатория Касперского» нанимает исследовательские группы, которые изучают машинное обучение. Кто-то на рынке пытается придумать что-то новое в области компьютерной лингвистики?
**Книги по компьютерной лингвистике:**
Daniel Jurafsky, Speech and Language Processing
Кристофер Маннинг, Прабхакар Рагхаван, Хайнрих Шютце, «Введение в информационный поиск»
Яков Тестелец, «Введение в общий синтаксис»
Большинство лингвистических разработок является собственностью больших компаний, практически ничего нельзя найти в открытом доступе. Это тормозит развитие отрасли, у нас нет свободного лингвистического рынка, коробочных решений.
Кроме того, не хватает полноценных информационных ресурсов. Есть такой проект, как Национальный корпус русского языка . Это один из лучших национальных корпусов в мире, который стремительно развивается и открывает невероятные возможности по научным и прикладным исследованиям. Разница примерно как в биологии - до ДНК-исследований и после.
Но многие ресурсы не существуют на русском языке. Так, нет аналога такому замечательному англоязычному ресурсу, как Framenet - это такая концептуальная сеть, где формально представлены все возможные связи какого-то конкретного слова с другими словами. Например, есть слово «летать» - кто может летать, куда, с каким предлогом употребляется это слово, с какими словами оно сочетается и так далее. Этот ресурс помогает связать язык с реальной жизнью, то есть проследить, как ведет себя конкретное слово на уровне морфологии и синтаксиса. Это очень полезно.
В компании Avicomp сейчас разрабатывается плагин для поиска близких по содержанию статей. То есть если вас заинтересовала какая-то статья, вы можете оперативно посмотреть историю сюжета: когда тема возникла, что писалось и когда был пик интереса к этой проблеме. Например, с помощью этого плагина можно будет, оттолкнувшись от статьи, посвященной событиям в Сирии, очень быстро увидеть, как в течение последнего года развивались там события.
Как будет построен процесс обучения в магистратуре?
Обучение в Вышке организовано по отдельным модулям - как в западных университетах. Студенты будут разделены на маленькие команды, мини-стартапы - то есть на выходе мы должны получить несколько готовых проектов. Мы хотим получить реальные продукты, которые потом откроем людям и оставим в открытом доступе.
Кроме непосредственных руководителей проектов студентов, мы хотим найти им кураторов из числа их потенциальных работодателей - из того же «Яндекса», например, которые тоже будут играть в эту игру и давать студентам какие-то советы.
Я надеюсь, что в магистратуру придут люди из самых разных областей: программисты, лингвисты, социологи, маркетологи. У нас будет несколько адаптационных курсов по лингвистике, математике и программированию. Потом у нас будет два серьезных курса по лингвистике, и они будут связаны с самыми актуальными лингвистическими теориями, мы хотим, чтобы наши выпускники были в состоянии читать и понимать современные лингвистические статьи. То же самое и с математикой. У нас будет курс, который будет называться «Математические основания компьютерной лингвистики», где будут излагаться те разделы математики, на которых зиждется современная компьютерная лингвистика.
Для того чтобы поступить в магистратуру, нужно сдать вступительный экзамен по языку и пройти конкурс портфолио.
Кроме основных курсов будут линейки предметов по выбору Мы запланировали несколько циклов - два из них ориентированы на более глубокое изучение отдельных тем, к которым относятся, например, машинный перевод и корпусная лингвистика, и, а один, наоборот, связан со смежными областями: такими как, социальные сети, машинное обучение или Digital Humanities - курс, который как мы надеемся, будем прочитан на английском языке.
КУРСОВАЯ РАБОТА
по дисциплине «Информатика»
по теме: «Компьютерная лингвистика»
ВВЕДЕНИЕ
2. Современные интерфейсы компьютерной лингвистики
ЗАКЛЮЧЕНИЕ
ЛИТЕРАТУРА
Введение
В жизни современного общества важную роль играют автоматизированные информационные технологии. С течением времени их значение непрерывно возрастает. Но развитие информационных технологий происходит весьма неравномерно: если современный уровень вычислительной техники и средств связи поражает воображение, то в области смысловой обработки информации успехи значительно скромнее. Эти успехи зависят, прежде всего, от достижений в изучении процессов человеческого мышления, процессов речевого общения между людьми и от умения моделировать эти процессы на ЭВМ.
Когда речь идет о создании перспективных информационных технологий, то проблемы автоматической обработки текстовой информации, представленной на естественных языках, выступают на передний план. Это определяется тем, что мышление человека тесно связано с его языком. Более того, естественный язык является инструментом мышления. Он является также универсальным средством общения между людьми – средством восприятия, накопления, хранения, обработки и передачи информации. Проблемами использования естественного языка в системах автоматической обработки информации занимается наука компьютерная лингвистика. Эта наука возникла сравнительно недавно – на рубеже пятидесятых и шестидесятых годов прошлого столетия. За прошедшие полвека в области компьютерной лингвистики были получены значительные научные и практические результаты: были созданы системы машинного перевода текстов с одних естественных языков на другие, системы автоматизированного поиска информации в текстах, системы автоматического анализа и синтеза устной речи и многие другие. Данная работа посвящена построению оптимального компьютерного интерфейса средствами компьютерной лингвистики при проведении лингвистических исследований.
1. Место и роль компьютерной лингвистики в лингвистических исследованиях
В современном мире при проведении различных лингвистических исследований все более активно используется компьютерная лингвистика.
Компьютерная лингвистика – это область знаний, связанная c решением задач автоматической обработки информации, представленной на естественном языке. Центральными научными проблемами компьютерной лингвистики являются проблема моделирования процесса понимания смысла текстов (перехода от текста к формализованному представлению его смысла) и проблема синтеза речи (перехода от формализованного представления смысла к текстам на естественном языке). Эти проблемы возникают при решении ряда прикладных задач и, в частности, задач автоматического обнаружения и исправления ошибок при вводе текстов в ЭВМ, автоматического анализа и синтеза устной речи, автоматического перевода текстов с одних языков на другие, общения с ЭВМ на естественном языке, автоматической классификации и индексирования текстовых документов, их автоматического реферирования, поиска документов в полнотекстовых базах данных.
Лингвистические средства, создаваемые и применяемые в компьютерной лингвистике, можно условно разделить на две части: декларативную и процедурную. К декларативной части относятся словари единиц языка и речи, тексты и различного рода грамматические таблицы, к процедурной части – средства манипулирования единицами языка и речи, текстами и грамматическими таблицами. Компьютерный интерфейс относится к процедурной части компьютерной лингвистики.
Успех в решении прикладных задач компьютерной лингвистики зависит, прежде всего, от полноты и точности представления в памяти ЭВМ декларативных средств и от качества процедурных средств. На сегодняшний день необходимый уровень решения этих задач пока еще не достигнут, хотя работы в области компьютерной лингвистики ведутся во всех развитых странах мира (Россия, США, Англия, Франция, Германия, Япония и др.).
Тем не менее, можно отметить серьезные научные и практические достижения в области компьютерной лингвистики. Так в ряде стран(Россия, США, Япония, и др.) построены экспериментальные и промышленные системы машинного перевода текстов с одних языков на другие, построен ряд экспериментальных систем общения с ЭВМ на естественном языке, ведутся работы по созданию терминологических банков данных, тезаурусов, двуязычных и многоязычных машинных словарей (Россия, США, Германия, Франция и др.), строятся системы автоматического анализа и синтеза устной речи (Россия, США, Япония и др.), ведутся исследования в области построения моделей естественных языков.
Важной методологической проблемой прикладной компьютерной лингвистики является правильная оценка необходимого соотношения между декларативной и процедурной компонентами систем автоматической обработки текстовой информации. Чему отдать предпочтение: мощным вычислительным процедурам, опирающимся на относительно небольшие словарные системы с богатой грамматической и семантической информацией, или мощной декларативной компоненте при относительно простых компьютерных интерфейсах? Большинство ученых считают что, второй путь предпочтительнее. Он быстрее приведет к достижению практических целей, так как при этом меньше встретится тупиков и трудно преодолимых препятствий и здесь можно будет в более широких масштабах использовать ЭВМ для автоматизации исследований и разработок.
Необходимость мобилизации усилий, прежде всего, на развитии декларативной компоненты систем автоматической обработки текстовой информации подтверждается полувековым опытом развития компьютерной лингвистики. Ведь здесь, несмотря на бесспорные успехи этой науки, увлечение алгоритмическими процедурами не принесло ожидаемого успеха. Наступило даже некоторое разочарование в возможностях процедурных средств.
В свете вышеизложенного, представляется перспективным такой путь развития компьютерной лингвистики, когда основные усилия будут направлены на создание мощных словарей единиц языка и речи, изучение их семантико-синтаксической структуры и на создание базовых процедур морфологического, семантико-синтаксического и концептуального анализа и синтеза текстов. Это позволит в дальнейшем решать широкий спектр прикладных задач.
Перед компьютерной лингвистикой стоят, прежде всего, задачи лингвистического обеспечения процессов сбора, накопления, обработки и поиска информации. Наиболее важными из них являются:
1. Автоматизация составления и лингвистической обработки машинных словарей;
2. Автоматизация процессов обнаружения и исправления ошибок при вводе текстов в ЭВМ;
3. Автоматическое индексирование документов и информационных запросов;
4. Автоматическая классификация и реферирование документов;
5. Лингвистическое обеспечение процессов поиска информации в одноязычных и многоязычных базах данных;
6. Машинный перевод текстов с одних естественных языков на другие;
7. Построение лингвистических процессоров, обеспечивающих общение пользователей с автоматизированными интеллектуальными информационными системами (в частности, с экспертными системами) на естественном языке, или на языке, близком к естественному;
8. Извлечение фактографической информации из неформализованных текстов.
Подробно остановимся на проблемах, наиболее относящихся к теме исследования.
В практической деятельности информационных центров есть необходимость решения задачи автоматизированного обнаружения и исправления ошибок в текстах при их вводе в ЭВМ. Эта комплексная задача может быть условно расчленена на три задачи – задачи орфографического, синтаксического и семантического контроля текстов. Первая из них может быть решена с помощью процедуры морфологического анализа, использующей достаточно мощный эталонный машинный словарь основ слов. В процессе орфографического контроля слова текста подвергаются морфологическому анализу, и если их основы отождествляются с основами эталонного словаря, то они считаются правильными; если не отождествляются, то они в сопровождении микроконтекста выдаются на просмотр человеку. Человек обнаруживает и исправляет искаженные слова, а соответствующая программная система вносит эти исправления в корректируемый текст.
Задача синтаксического контроля текстов с целью обнаружения в них ошибок существенно сложнее задачи их орфографического контроля. Во-первых, потому, что она включает в свой состав и задачу орфографического контроля как свою обязательную компоненту, а, во-вторых, потому, что проблема синтаксического анализа неформализованных текстов в полном объеме еще не решена. Тем не менее, частичный синтаксический контроль текстов вполне возможен. Здесь можно идти двумя путями: либо составлять достаточно представительные машинные словари эталонных синтаксических структур и сравнивать с ними синтаксические структуры анализируемого текста; либо разрабатывать сложную систему правил проверки грамматической согласованности элементов текста. Первый путь нам представляется более перспективным, хотя он, конечно, не исключает и возможности применения элементов второго пути. Синтаксическая структура текстов должна описываться в терминах грамматических классов слов (точнее – в виде последовательностей наборов грамматической информации к словам).
Задачу семантического контроля текстов с целью обнаружения в них смысловых ошибок следует отнести к классу задач искусственного интеллекта. В полном объеме она может быть решена только на основе моделирования процессов человеческого мышления. При этом, по-видимому, придется создавать мощные энциклопедические базы знаний и программные средства манипулирования знаниями. Тем не менее, для ограниченных предметных областей и для формализованной информации эта задача вполне разрешима. Она должна ставиться и решаться как задача семантико-синтаксического контроля текстов.
Проблема автоматизации индексирования документов и запросов является традиционной для систем автоматизированного поиска текстовой информации. Поначалу под индексированием понимали процесс присвоения документам и запросам классификационных индексов, отражающих их тематическое содержание. В дальнейшем это понятие трансформировалось и термином «индексирование» стали называть процесс перевода описаний документов и запросов с естественного языка на формализованный, в частности, на язык «поисковых образов». Поисковые образы документов стали, как правило, оформляться в виде перечней ключевых слов и словосочетаний, отражающих их тематическое содержание, а поисковые образы запросов – в виде логических конструкций, в которых ключевые слова и словосочетания соединялись друг с другом логическими и синтаксическими операторами.
Автоматическое индексирование документов удобно проводить по текстам их рефератов (если они имеются), поскольку в рефератах основное содержание документов отражается в концентрированном виде. Индексирование может проводиться с контролем по тезаурусу или без контроля. В первом случае в тексте заголовка документа и его реферата ищутся ключевые слова и словосочетания эталонного машинного словаря и в ПОД включаются только те из них, которые нашлись в словаре. Во втором случае ключевые слова и словосочетания выделяются из текста и включаются в ПОД независимо от их принадлежности к какому-либо эталонному словарю. Был реализован еще и третий вариант, где наряду с терминами из машинного тезауруса в ПОД включались еще и термины, выделенные из заголовка и первого предложения реферата документа. Эксперименты показали, что ПОДы, составленные в автоматическом режиме по заголовкам и рефератам документов, обеспечивают большую полноту поиска, чем ПОДы, составленные вручную. Объясняется это тем, что система автоматического индексирования более полно отражает различные аспекты содержания документов, чем система ручного индексирования.
При автоматическом индексировании запросов возникают примерно те же проблемы, что и при автоматическом индексировании документов. Здесь также приходится выделять ключевые слова и словосочетания из текста и нормализовать слова, входящие в текст запроса. Логические связки между ключевыми словами и словосочетаниями и контекстуальные операторы могут проставляться вручную или с помощью автоматизированной процедуры. Важным элементом процесса автоматического индексирования запроса является дополнение входящих в его состав ключевых слов и словосочетаний их синонимами и гипонимами (иногда также гиперонимами и другими терминами, ассоциированными с исходными терминами запроса). Это может быть сделано в автоматическом или в интерактивном режиме с помощью машинного тезауруса.
Проблему автоматизации поиска документальной информации мы уже частично рассматривали в связи с задачей автоматического индексирования. Наиболее перспективным здесь является поиск документов по их полным текстам, так как использование для этой цели всякого рода заменителей (библиографических описаний, поисковых образов документов и текстов их рефератов) приводит к потерям информации при поиске. Наибольшие потери имеют место тогда, когда в качестве заменителей первичных документов используются их библиографические описания, наименьшие – при использовании рефератов.
Важными характеристиками качества поиска информации являются его полнота и точность. Полнота поиска может быть обеспечена путем максимального учета парадигматических связей между единицами языка и речи (словами и словосочетаниями), а точность – путем учета их синтагматических связей. Существует мнение, что полнота и точность поиска находятся в обратной зависимости: меры по улучшению одной из этих характеристик приводят к ухудшению другой. Но это справедливо только для фиксированной логики поиска. Если эту логику совершенствовать, то обе характеристики могут улучшаться одновременно.
Процесс поиска информации в полнотекстовых базах данных целесообразно строить как процесс диалогового общения пользователя с информационно-поисковой системой (ИПС), при котором он последовательно просматривает фрагменты текстов (абзацы, параграфы), удовлетворяющие логическим условиям запроса, и отбирает те из них, которые для него представляют интерес. В качестве окончательных результатов поиска могут выдаваться как полные тексты документов, так и любые их фрагменты.
Как видно из предыдущих рассуждений, при автоматическом поиске информации приходится преодолевать языковый барьер, возникающий между пользователем и ИПС в связи с имеющим место в текстах разнообразием форм представления одного и того же смысла. Этот барьер становится еще более значительным, если поиск приходится вести в разноязычных базах данных. Кардинальным решением проблемы здесь может быть машинный перевод текстов документов с одних языков на другие. Это можно делать либо заранее, перед загрузкой документов в поисковую систему, либо в процессе поиска информации. В последнем случае запрос пользователя должен переводиться на язык массива документов, в котором ведется поиск, а результаты поиска – на язык запроса. Такого рода поисковые системы уже работают в системе Internet. В ВИНИТИ РАН была также построена система Cyrillic Browser, которая позволяет производить поиск информации в русскоязычных текстах по запросам на английском языке с выдачей результатов поиска также на языке пользователя.
Важной и перспективной задачей компьютерной лингвистики является построение лингвистических процессоров, обеспечивающих общение пользователей с интеллектуальными автоматизированными информационными системами (в частности с экспертными системами) на естественном языке или на языке, близком к естественному. Поскольку в современных интеллектуальных системах информация хранится в формализованном виде, то лингвистические процессоры, выполняя роль посредников между человеком и ЭВМ, должны решать следующие основные задачи: 1) задачу перехода от текстов входных информационных запросов и сообщений на естественном языке к представлению их смысла на формализованном языке (при вводе информации в ЭВМ); 2) задачу перехода от формализованного представления смысла выходных сообщений к его представлению на естественном языке (при выдаче информации человеку). Первая задача должна решаться путем морфологического, синтаксического и концептуального анализа входных запросов и сообщений, вторая – путем концептуального, синтаксического и морфологического синтеза выходных сообщений.
Концептуальный анализ информационных запросов и сообщений состоит в выявлении их понятийной структуры (границ наименований понятий и отношений между понятиями в тексте) и переводе этой структуры на формализованный язык. Он проводится после морфологического и синтаксического анализа запросов и сообщений. Концептуальный синтез сообщений состоит в переходе от представления элементов их структуры на формализованном языке к вербальному (словесному) представлению. После этого сообщениям дается необходимое синтаксическое и морфологическое оформление.
Для машинного перевода текстов с одних естественных языков на другие необходимо располагать словарями переводных соответствий между наименованиями понятий. Знания о таких переводных соответствиях накапливались многими поколениями людей и оформлялись в виде специальных изданий – двуязычных или многоязычных словарей. Для специалистов, владеющих в той или иной мере иностранными языками, эти словари служили ценными пособиями при переводе текстов.
В традиционных двуязычных и многоязычных словарях общего назначения переводные эквиваленты указывались преимущественно для отдельных слов, для словосочетаний – значительно реже. Указание переводных эквивалентов для словосочетаний было более характерно для специальных терминологических словарей. Поэтому при переводе отрезков текстов, содержащих многозначные слова, у обучаемых часто возникали затруднения.
Ниже приведены переводные соответствия между несколькими парами английских и русских фраз по «школьной» тематике.
1) The bat looks like a mouse with wings – Летучая мышь похожа на мышь с крыльями.
2) Children like to play in the sand on the beach – Дети любят играть в песке на берегу моря.
3) A drop of rain fell on my hand – Капля дождя упала мне на руку.
4) Dry wood burns easily – сухие дрова хорошо горят.
5) He pretended not to hear me – Он делал вид, что не слышит меня.
Здесь английские фразы не являются идиоматическими выражениями. Тем не менее, их перевод на русский язык лишь с некоторой натяжкой можно рассматривать как простой пословный перевод, так как почти все входящие в них слова многозначные. Поэтому здесь обучаемым способны помочь только достижения компьютерной лингвистики.
План:1. Что такое компьютерная лингвистика?
2. Объект и предмет компьютерной лингвистики
4. Задачи компьютерной лингвистики
5. Методы исследования компьютерной лингвистики
6. История и причины возникновения компьютерной лингвистики
7. Основные термины компьютерной лингвистики
8. Ученые занимавшиеся проблемой компьютерной лингвистики
9. Ассоциации и конференции по компьютерной лингвистике
10. Использованная литература. 
Компьютерная лингвистика –
самостоятельное направление в прикладной лингвистике, ориентированное на использование компьютеров для решения задач, связанных с использованием естественного языка. (Щилихина К.М.) 
Компьютерная лингвистика
– будучи одним из направлений прикладной лингвистики, изучает лингвистические основы информатики и все аспекты связи языка и мышления, моделирование языка и мышления в компьютерной среде с помощью компьютерных программ, а ее интересы лежат в области: 1) оптимизации коммуникации на основе лингвистических знаний 2)создание естественно-языкового интерфейса и типологий понимания языка для общения человека с машиной 3) создание и моделирование информационных компьютерных систем (Соснина Е.П.) 
Объект компьютерной лингвистики
– анализ языка в его естественном состоянии в процессе использования людьми в различных ситуациях общения, а , как особенности языка могут быть сформулированы. 
Задачи компьютерной лингвистики: 
Методы исследования компьютерной лингвистики:
1. метод моделирования- специальный объект изучения, который недоступен в прямом наблюдении. По определению математика К. Шеннона модель является представлением объекта в некоторой форме, отличной от формы их реального существования.
2. метод теории представления знаний подразумевает способы представления знаний, ориентированные на автоматическую обработку современными компьютерами.
3. метод теории языка программирования
(programming language theory) – это область информатики, связанная с проектированием, анализом, определением характеристик и классификацией языков программирования и изучением их индивидуальных особенностей. 
Причины возникновения компьютерной лингвистики
1. Появление ЭВМ
2. Проблема общения с компьютерами неподготовленных пользователей 
1.Система поиска по словарю, разработанная в колледже Беркбек в Лондоне в 1948г.
2. Меморандум Уоррена Уивера
3.Начало внедрения первых вычислительных машин в сфере машинного перевода
4. Джорджтаунский проект в 1954 
1. ALPAC(Automatic Language Processing Advisory Committee) / Консультативный Комитет по автоматической обработке языка 2. новый этап в развитии компьютерных технологий и их активное использование в лингвистических задачах 3. создание нового поколения компьютеров и языков программирования 4. возрастание интереса к машинному переводу 60
-70ые годы ХХ века
Конец 80х – начало 90х годов ХХ века
Бурный рост объемов текстовой информации в электронном виде
Необходимость автоматической обработки текстов на естественном языке
Появление и активное развитие сети Интернет
1. Продукты компании PROMT и ABBY (Lingvo) 2. Технологии машинного перевода 3. Технологии Translation Memory
Современные коммерческие системы
Оживление текстов
Модели коммуникации
Компьютерная лексикография
Машинный перевод
Корпус текстов
Анализ текстов на естественном языке
3 уровня структуры текста:
Поверхностная синтаксическая структура
Глубинная синтаксическая структура
Семантический уровень
Задача синтеза обратная по отношению в анализу
Оживление текста
1. Обмен текстами посредством зрительных образов на экране дисплея
Оживление текстов
Модели коммуникации
Компьютерная лексикография
Машинный перевод
Корпус текстов
3 уровня структуры текста:
Поверхностная синтаксическая структура
Глубинная синтаксическая структура
Семантический уровень
Задача синтеза обратная по отношению в анализу
Оживление текста
1. Обмен текстами посредством зрительных образов на экране дисплея
Поверхностная синтаксическая структура
Глубинная синтаксическая структура
Семантический уровень
Оживление текста
1. Обмен текстами посредством зрительных образов на экране дисплея2. 2 модальности мышления человека: символьная и зрительная. 
1.Имитация процесса общения 2. Создание эффективной модели диалога Модели коммуникации
Гипертекст
-особый способ организации и представления текста, при котором несколько текстов или фрагментов текста могут быть связаны между собой по различным типам связей. 
Отличия гипертекста от традиционного текста
Гипертекст 
2. обработка письменного текста
1. обработка устной речи
Обработка устной речи
1. автоматический синтез речиА) развитие синтезаторов типа «текст-речь». Включает 2 блока: блок лингвистической обработки текста и блок акустического синтеза.
2. автоматическое распознавание речи 
1) распознавание текста
2) анализ текста
3) синтез текста 
ИПС (информационно-поисковая система) – это программные системы для хранения, поиска и выдачи интересующей информации.
Захаров В.П. считает что, ИПС
– это упорядоченная совокупность документов и информационных технологий , предназначенных для хранения и поиска информации – текстов или данных. 
3 вида ИПС
3 вида ИПС
Механизированные ИПС представляют собой технические средства, которые обеспечивают отбор нужных документов
Автоматические - поиск информации с помощью компьютеров
Ручные – это поиск в библиотеке.
Компьютерная лексикография
Компьютерная лексикография – одно из важных направлений прикладной лингвистики, занимается теорией и практикой составления словарей.
В лексикографии выделяют 2 направления:
Традиционная лексикография
занимается составлением традиционных словарей
Машинная лексикография
занимается автоматизацией подготовки словарей и решает задачи разработки электронных словарей
Задачи компьютерной лексикографии
Автоматическое получение из текста различных словарей
Создание словарей, которые являются электронными версиями традиционных словарей или комплексных электронных лингвистических словарей для традиционных словарных работ, например LINGVO
Разработка теоретических и практических аспектов составления специальных компьютерных словарей, например для информационного поиска, машинного перевода
Машинный перевод
Машинный перевод
– преобразование текста на одном естественном языке на другой естественный язык при помощи компьютера.
Виды машинного перевода FAMT
(Fully Automated Machine Translation) – полностью автоматический перевод
HAMT
(Human Aided machine Translation) – машинный перевод с участием человека
MAHT
(Machine Aided Human Translation) – перевод, осуществляемый человеком с привлечением вспомогательных программных и лингвистических средств.
2) профессиональный МП
– более качественный перевод с последующим редактированием человеком
- 3) интерактивный МП
– считается переводом в специальных системах поддержки , проходит в режиме диалога с компьютерной системой. Качество МП зависит от возможностей настройки, ресурсов, типа текстов.
Корпус текстов
Корпус текстов
- это некоторое собрание текстов, в основе которого лежит логический замысел, логическая идея, объединяющая эти тексты.
Традиционная лексикография занимается составлением традиционных словарей
Машинная лексикография занимается автоматизацией подготовки словарей и решает задачи разработки электронных словарей
Автоматическое получение из текста различных словарей
Создание словарей, которые являются электронными версиями традиционных словарей или комплексных электронных лингвистических словарей для традиционных словарных работ, например LINGVO
Разработка теоретических и практических аспектов составления специальных компьютерных словарей, например для информационного поиска, машинного перевода
FAMT (Fully Automated Machine Translation) – полностью автоматический перевод
HAMT (Human Aided machine Translation) – машинный перевод с участием человека
MAHT (Machine Aided Human Translation) – перевод, осуществляемый человеком с привлечением вспомогательных программных и лингвистических средств.
2) профессиональный МП – более качественный перевод с последующим редактированием человеком
- 3) интерактивный МП – считается переводом в специальных системах поддержки , проходит в режиме диалога с компьютерной системой. Качество МП зависит от возможностей настройки, ресурсов, типа текстов.
Корпус текстов
Корпус текстов - это некоторое собрание текстов, в основе которого лежит логический замысел, логическая идея, объединяющая эти тексты.Языковой корпус-
большой, представленный в электронном виде, унифицированный, структурированный, размеченный, филологически компетентный массив языковых данных, предназначенный для решения конкретных лингвистических задач. 
Репрезентативность – важнейшее свойство корпуса 
Назначение языкового корпуса – показать функционирование лингвистических единиц в их естественной контекстной среде
На основе корпуса можно получить данные:
1. о частоте грамматических категорий2. об изменениях частот
3. об изменениях контекстов в различные периоды времени
5. о совместной встречаемости лексических единиц
6. об особенностях их сочетаемости 
Брауновский корпус 
Корпус текстов
- это некоторое собрание текстов, в основе которого лежит логический замысел, логическая идея, объединяющая эти тексты. Воплощение этой логической идеи: правила организации текстов в корпус алгоритмы и программы анализа корпуса текстов сопряжённая с этим идеология и методология. Национальный корпус
представляет данный язык на определенном этапе (или этапах) его существования и во всём многообразии жанров, стилей, территориальных и социальных вариантов и т. п. Основные термины компьютерной лингвистики
Языки программирования (ЯП) – это класс искусственных языков, предназначенных для обработки информации с помощью компьютера. Любой язык программирования – это строгая (формальная) знаковая система, при помощи которой записываются компьютерные программы. По разным оценкам, в настоящее время существует от тысячи до десяти тысяч различных языков программирования.
Информатика
(Computer Science) -
наука о закономерностях записи, хранения, переработки, передачи и использования информации с помощью технических средств.
Поиск информации
(Information Retrieval
) – это процесс отыскания в некоторой системе хранения информации таких документов (текстов, записей и
Информатика (Computer Science) - наука о закономерностях записи, хранения, переработки, передачи и использования информации с помощью технических средств.
т. д.), которые соответствуют поступившему запросу.
«Информационно-поисковая система (ИПС) – это упорядоченная совокупность документов (массивов документов) и информационных технологий, предназначенных для хранения и поиска информации – текстов (документов) или данных (фактов).
Машинная лексикография (Сomputational Lexicography) занимается автоматизацией подготовки словарей и решает задачи разработки электронных
словарей.
Машинный перевод – это преобразование компьютером текста на одном
естественном языке в эквивалентный по содержанию текст на другом
естественном языке.
Гипертекст
– это технология организации информации и особым образом структурированный текст, разбитый на отдельные блоки, имеющий нелинейное представление, для эффективной презентации информации в компьютерных средах. 
- Сценарий – это последовательность нескольких эпизодов во времени, это тоже представление стереотипной ситуации или стереотипном поведении, только элементами сценария являются шаги алгоритма или инструкции.
План – представление знаний о возможных действиях, которые необходимы для достижения определенной цели.
Фрейм - это структура для представления декларативного знания о типизированной тематически единой ситуации, т.е. структура данных о стереотипной ситуации.
Ученые в области компьютерной лингвистики:
Советские и российские ученые : Алексей Ляпунов, Игорь Мельчук, Ольга Кулагина, Ю.Д. Апресян, Н.Н. Леонтьева, Ю.С. Мартемьянов, З.М. Шаляпина, Игорь Богуславский, А.С. Нариньяни, А.Е. Кибрик, Баранов А.Н.
Западные ученые : Йорик Вилкс, Грегори Грефенштетт, Грэвил Корбетт, Джон Кэролл, Диана Маккарти, Луис Маркес, Дан Молдован, Йоаким Нивре, Виктор Раскин, Эдуард Хови.
Ассоциации и конференции по компьютерной лингвистике
: «Диало́г»
- главная российская конференция по компьютерной лингвистике
с международным участием.
Приоритетом Диалога является компьютерное моделирование
русского языка. Рабочие языки конференции русский и английский. Для привлечения зарубежных рецензентов основная часть прикладных работ подается на английском языке.
Основные направления конференции
: Лингвистическая семантика
и семантический анализ
Формальные модели языка и их применение
Теоретическая и компьютерная лексикография
Методы оценки (evaluation) систем анализа текстов и машинного перевода
Корпусная лингвистика
. Создание, применение, оценка корпусов
Интернет
как лингвистический ресурс. Лингвистические технологии в Интернете
Онтологии
. Извлечение знаний
из текстов
Компьютерный анализ документов: реферирование, классификация
, поиск
Автоматический анализ тональности текстов
Машинный перевод
Модели общения. Коммуникация, диалог и речевой акт
Анализ и синтез речи
2. Ассоциация по Компьютерной лингвистике
(ACL)
является международным научным и профессиональным обществом людей, работающих над проблемами, включающими естественный язык и вычисление. Годовое собрание проводится каждое лето в местоположениях, где значительное исследование компьютерной лингвистики выполнено. Основана в 1962, первоначально назвали Ассоциацией для Машинного перевода и Компьютерной лингвистики
(AMTCL)
. В 1968 это стало ACL. УACL есть европейская (EACL)
и североамериканская (NAACL)
ветви.
- Журнал ACL, Компьютерная лингвистика
, является основным форумом для исследования в области компьютерной лингвистики и обработки естественного языка. С 1988 журнал был издан для ACL MIT Press
.
Книжная серия ACL, Исследования в Обработке естественного языка
, издана издательством Кембриджского университета
.
Каждый год ACL и его главы организуют международные конференции в разных странах.
ACL 2014 проводился в Балтиморе, США.
Использованная литература
:
1. Марчук Ю.Н. Компьютерная лингвистика: учебное пособие/Ю.Н. Марчук.- М.:АСТ: Восток –Запад, 2007ю- 317 с.
2. Шилихина К.М. Основы прикладной лингвистики: учебное пособие по специальности 021800 (031301) – Теоретическая и прикладная лингвистика, Воронеж, 2006.
3. Боярский К.К. Введение в компьютерную лингвистику. Учебное пособие.- СПб: НИУ ИТМО, 2013.- 72 с.
4. Щипицина Л.Ю. Информационные технологии в лингвистике: учебное пособие/ Л.Ю. Щипицина.- М.: ФЛИНТА: наука, 2013.- 128 с.
5. Соснина Е.П. Введение в прикладную лингвистику: учебное пособие/ Е.П.Соснина.- 2-е изд., испр. и доп. – Ульяновск: УлГТУ, 2012. -110 с.
6. Баранов А.Н. Введение в прикладную лингвистику: Учебное пособие.- М.: Эдиториал УРСС, 2001.- 360 с.
7. Прикладное языкознание: Учебник/ Л.В. Бондарко, Л.А. Вербицкая, Г.Я. Мартыненко и др.; Отв. Редактор А.С. Герд. СПб.: изд-во С.-Петербург. Ун-та, 1996.- 528 с.
8. Шемякин Ю.И. Начала компьютерной лингвистики: Учебное пособие. М.: Изд-во МГОУ, А/О «Росвузнаука», 1992.
-
Лингви́стика (от лат. lingua -
язык), языкозна́ние, языкове́дение - наука,
изучающая языки.
Это наука о естественном человеческом языке вообще
и обо всех языках мира как его
индивидуализированных представителях.
В широком смысле слова, лингвистика
подразделяется на научную и практическую. Чаще
всего под лингвистикой подразумевается именно
научная лингвистика. Является частью семиотики как
науки о знаках.
Лингвистикой профессионально занимаются учёныелингвисты.
Лингвистика и Информатика.
В жизни современного общества важную роль играют автоматизированные
информационные технологии. Но развитие информационных технологий происходит
весьма неравномерно: если современный уровень вычислительной техники и
средств связи поражает воображение, то в области смысловой обработки
информации успехи значительно скромнее. Эти успехи зависят, прежде всего, от
достижений в изучении процессов человеческого мышления, процессов речевого
общения между людьми и от умения моделировать эти процессы на ЭВМ. А это задача чрезвычайной сложности.Когда речь идет о создании перспективных
информационных технологий, то проблемы автоматической обработки текстовой
информации, представленной на естественных языках, выступают на передний план.
Это определяется тем, что мышление человека тесно связано с его языком. Более
того, естественный язык является инструментом мышления. Он является также
универсальным средством общения между людьми – средством восприятия,
накопления, хранения, обработки и передачи информации.
Проблемами использования естественного языка в системах автоматической
обработки информации занимается наука компьютерная лингвистика. Эта наука
возникла сравнительно недавно – на рубеже пятидесятых и шестидесятых годов
прошлого столетия. Поначалу, в период своего становления, она имела различные
названия: математическая лингвистика, вычислительная лингвистика, инженерная
лингвистика. Но в начале восьмидесятых годов за ней закрепилось название
компьютерная лингвистика.Компьютерная лингвистика - это область знаний, связанная с решением задач
автоматической обработки информации, представленной на естественном языке.
Центральными научными проблемами компьютерной лингвистики являются проблема
моделирования процесса понимания смысла текстов (перехода от текста к
формализованному представлению его смысла) и проблема синтеза речи (перехода от
формализованного представления смысла к текстам на естественном языке). Эти проблемы
возникают при решении ряда прикладных задач:
1) автоматического обнаружения и исправления ошибок при вводе текстов в ЭВМ,
2) автоматического анализа и синтеза устной речи,
3) автоматического перевода текстов с одних языков на другие,
4) общения с ЭВМ на естественном языке,
5) автоматической классификации и индексирования текстовых документов, их
автоматического реферирования, поиска документов в полнотекстовых базах данных.
За прошедшие полвека в области компьютерной лингвистики были получены
значительные научные и практические результаты: были созданы системы машинного
перевода текстов с одних естественных языков на другие, системы автоматизированного
поиска информации в текстах, системы автоматического анализа и синтеза устной речи и
многие другие. Но были и разочарования. Например, проблема машинного перевода
текстов с одних языков на другие оказалась значительно сложнее, чем это представляли
себе пионеры машинного перевода и их последователи. То же самое можно сказать об
автоматизированном поиске информации в текстах и о задаче анализа и синтеза устной
речи. Ученым и инженерам придется по-видимому еще немало потрудиться, чтобы
достигнуть нужных результатов.Обработка естественного языка (англ. natural language processing; синтаксический,
морфологический, семантический анализы текста). Сюда включают также:
Корпусная лингвистика, создание и использование электронных корпусов текстов
Создание электронных словарей, тезаурусов, онтологий. Например, Lingvo. Словари
используют, например, для автоматического перевода, проверки орфографии.
Автоматический перевод текстов. Среди русских переводчиков популярным
является Промт. Среди бесплатных известен переводчик Google Translate
Автоматическое извлечение фактов из текста (извлечение информации) (англ. fact
extraction, text mining)
Автореферирование (англ. automatic text summarization). Эта функция включена,
например, в Microsoft Word.
Построение систем управления знаниями. См. Экспертные системы
Создание вопросно-ответных систем (англ. question answering systems).
Оптическое распознавание символов (англ. OCR). Например, программа FineReader
Автоматическое распознавание речи (англ. ASR). Есть платное и бесплатное ПО
Автоматический синтез речи
«Диало́г» - главная российская конференция по компьютерной лингвистике с международным участием.
Лингвистическая семантика и семантический анализ
Формальные модели языка и их применение
Теоретическая и компьютерная лексикография
Методы оценки (evaluation) систем анализа текстов и машинного перевода
Корпусная лингвистика . Создание, применение, оценка корпусов
Интернет как лингвистический ресурс. Лингвистические технологии в Интернете
Онтологии . Извлечение знаний из текстов
Компьютерный анализ документов: реферирование, классификация , поиск
Автоматический анализ тональности текстов
Машинный перевод
Модели общения. Коммуникация, диалог и речевой акт
Анализ и синтез речи
2. Ассоциация по Компьютерной лингвистике (ACL) является международным научным и профессиональным обществом людей, работающих над проблемами, включающими естественный язык и вычисление. Годовое собрание проводится каждое лето в местоположениях, где значительное исследование компьютерной лингвистики выполнено. Основана в 1962, первоначально назвали Ассоциацией для Машинного перевода и Компьютерной лингвистики (AMTCL) . В 1968 это стало ACL.
УACL есть европейская (EACL) и североамериканская (NAACL) ветви.
- Журнал ACL, Компьютерная лингвистика , является основным форумом для исследования в области компьютерной лингвистики и обработки естественного языка. С 1988 журнал был издан для ACL MIT Press .
Книжная серия ACL, Исследования в Обработке естественного языка , издана издательством Кембриджского университета .
Каждый год ACL и его главы организуют международные конференции в разных странах.
ACL 2014 проводился в Балтиморе, США.
Использованная литература
:
1. Марчук Ю.Н. Компьютерная лингвистика: учебное пособие/Ю.Н. Марчук.- М.:АСТ: Восток –Запад, 2007ю- 317 с.
2. Шилихина К.М. Основы прикладной лингвистики: учебное пособие по специальности 021800 (031301) – Теоретическая и прикладная лингвистика, Воронеж, 2006.
3. Боярский К.К. Введение в компьютерную лингвистику. Учебное пособие.- СПб: НИУ ИТМО, 2013.- 72 с.
4. Щипицина Л.Ю. Информационные технологии в лингвистике: учебное пособие/ Л.Ю. Щипицина.- М.: ФЛИНТА: наука, 2013.- 128 с.
5. Соснина Е.П. Введение в прикладную лингвистику: учебное пособие/ Е.П.Соснина.- 2-е изд., испр. и доп. – Ульяновск: УлГТУ, 2012. -110 с.
6. Баранов А.Н. Введение в прикладную лингвистику: Учебное пособие.- М.: Эдиториал УРСС, 2001.- 360 с.
7. Прикладное языкознание: Учебник/ Л.В. Бондарко, Л.А. Вербицкая, Г.Я. Мартыненко и др.; Отв. Редактор А.С. Герд. СПб.: изд-во С.-Петербург. Ун-та, 1996.- 528 с.
8. Шемякин Ю.И. Начала компьютерной лингвистики: Учебное пособие. М.: Изд-во МГОУ, А/О «Росвузнаука», 1992.
-
Лингви́стика (от лат. lingua -
язык), языкозна́ние, языкове́дение - наука,
изучающая языки.
Это наука о естественном человеческом языке вообще
и обо всех языках мира как его
индивидуализированных представителях.
В широком смысле слова, лингвистика
подразделяется на научную и практическую. Чаще
всего под лингвистикой подразумевается именно
научная лингвистика. Является частью семиотики как
науки о знаках.
Лингвистикой профессионально занимаются учёныелингвисты.
Лингвистика и Информатика.
В жизни современного общества важную роль играют автоматизированные
информационные технологии. Но развитие информационных технологий происходит
весьма неравномерно: если современный уровень вычислительной техники и
средств связи поражает воображение, то в области смысловой обработки
информации успехи значительно скромнее. Эти успехи зависят, прежде всего, от
достижений в изучении процессов человеческого мышления, процессов речевого
общения между людьми и от умения моделировать эти процессы на ЭВМ. А это задача чрезвычайной сложности.Когда речь идет о создании перспективных
информационных технологий, то проблемы автоматической обработки текстовой
информации, представленной на естественных языках, выступают на передний план.
Это определяется тем, что мышление человека тесно связано с его языком. Более
того, естественный язык является инструментом мышления. Он является также
универсальным средством общения между людьми – средством восприятия,
накопления, хранения, обработки и передачи информации.
Проблемами использования естественного языка в системах автоматической
обработки информации занимается наука компьютерная лингвистика. Эта наука
возникла сравнительно недавно – на рубеже пятидесятых и шестидесятых годов
прошлого столетия. Поначалу, в период своего становления, она имела различные
названия: математическая лингвистика, вычислительная лингвистика, инженерная
лингвистика. Но в начале восьмидесятых годов за ней закрепилось название
компьютерная лингвистика.Компьютерная лингвистика - это область знаний, связанная с решением задач
автоматической обработки информации, представленной на естественном языке.
Центральными научными проблемами компьютерной лингвистики являются проблема
моделирования процесса понимания смысла текстов (перехода от текста к
формализованному представлению его смысла) и проблема синтеза речи (перехода от
формализованного представления смысла к текстам на естественном языке). Эти проблемы
возникают при решении ряда прикладных задач:
1) автоматического обнаружения и исправления ошибок при вводе текстов в ЭВМ,
2) автоматического анализа и синтеза устной речи,
3) автоматического перевода текстов с одних языков на другие,
4) общения с ЭВМ на естественном языке,
5) автоматической классификации и индексирования текстовых документов, их
автоматического реферирования, поиска документов в полнотекстовых базах данных.
За прошедшие полвека в области компьютерной лингвистики были получены
значительные научные и практические результаты: были созданы системы машинного
перевода текстов с одних естественных языков на другие, системы автоматизированного
поиска информации в текстах, системы автоматического анализа и синтеза устной речи и
многие другие. Но были и разочарования. Например, проблема машинного перевода
текстов с одних языков на другие оказалась значительно сложнее, чем это представляли
себе пионеры машинного перевода и их последователи. То же самое можно сказать об
автоматизированном поиске информации в текстах и о задаче анализа и синтеза устной
речи. Ученым и инженерам придется по-видимому еще немало потрудиться, чтобы
достигнуть нужных результатов.Обработка естественного языка (англ. natural language processing; синтаксический,
морфологический, семантический анализы текста). Сюда включают также:
Корпусная лингвистика, создание и использование электронных корпусов текстов
Создание электронных словарей, тезаурусов, онтологий. Например, Lingvo. Словари
используют, например, для автоматического перевода, проверки орфографии.
Автоматический перевод текстов. Среди русских переводчиков популярным
является Промт. Среди бесплатных известен переводчик Google Translate
Автоматическое извлечение фактов из текста (извлечение информации) (англ. fact
extraction, text mining)
Автореферирование (англ. automatic text summarization). Эта функция включена,
например, в Microsoft Word.
Построение систем управления знаниями. См. Экспертные системы
Создание вопросно-ответных систем (англ. question answering systems).
Оптическое распознавание символов (англ. OCR). Например, программа FineReader
Автоматическое распознавание речи (англ. ASR). Есть платное и бесплатное ПО
Автоматический синтез речи
Использованная литература
:
1. Марчук Ю.Н. Компьютерная лингвистика: учебное пособие/Ю.Н. Марчук.- М.:АСТ: Восток –Запад, 2007ю- 317 с.
2. Шилихина К.М. Основы прикладной лингвистики: учебное пособие по специальности 021800 (031301) – Теоретическая и прикладная лингвистика, Воронеж, 2006.
3. Боярский К.К. Введение в компьютерную лингвистику. Учебное пособие.- СПб: НИУ ИТМО, 2013.- 72 с.
4. Щипицина Л.Ю. Информационные технологии в лингвистике: учебное пособие/ Л.Ю. Щипицина.- М.: ФЛИНТА: наука, 2013.- 128 с.
5. Соснина Е.П. Введение в прикладную лингвистику: учебное пособие/ Е.П.Соснина.- 2-е изд., испр. и доп. – Ульяновск: УлГТУ, 2012. -110 с.
6. Баранов А.Н. Введение в прикладную лингвистику: Учебное пособие.- М.: Эдиториал УРСС, 2001.- 360 с.
7. Прикладное языкознание: Учебник/ Л.В. Бондарко, Л.А. Вербицкая, Г.Я. Мартыненко и др.; Отв. Редактор А.С. Герд. СПб.: изд-во С.-Петербург. Ун-та, 1996.- 528 с.
8. Шемякин Ю.И. Начала компьютерной лингвистики: Учебное пособие. М.: Изд-во МГОУ, А/О «Росвузнаука», 1992.
-
Лингви́стика (от лат. lingua -
язык), языкозна́ние, языкове́дение - наука,
изучающая языки.
Это наука о естественном человеческом языке вообще
и обо всех языках мира как его
индивидуализированных представителях.
В широком смысле слова, лингвистика
подразделяется на научную и практическую. Чаще
всего под лингвистикой подразумевается именно
научная лингвистика. Является частью семиотики как
науки о знаках.
Лингвистикой профессионально занимаются учёныелингвисты.
Лингвистика и Информатика.
В жизни современного общества важную роль играют автоматизированные
информационные технологии. Но развитие информационных технологий происходит
весьма неравномерно: если современный уровень вычислительной техники и
средств связи поражает воображение, то в области смысловой обработки
информации успехи значительно скромнее. Эти успехи зависят, прежде всего, от
достижений в изучении процессов человеческого мышления, процессов речевого
общения между людьми и от умения моделировать эти процессы на ЭВМ. А это задача чрезвычайной сложности.Когда речь идет о создании перспективных
информационных технологий, то проблемы автоматической обработки текстовой
информации, представленной на естественных языках, выступают на передний план.
Это определяется тем, что мышление человека тесно связано с его языком. Более
того, естественный язык является инструментом мышления. Он является также
универсальным средством общения между людьми – средством восприятия,
накопления, хранения, обработки и передачи информации.
Проблемами использования естественного языка в системах автоматической
обработки информации занимается наука компьютерная лингвистика. Эта наука
возникла сравнительно недавно – на рубеже пятидесятых и шестидесятых годов
прошлого столетия. Поначалу, в период своего становления, она имела различные
названия: математическая лингвистика, вычислительная лингвистика, инженерная
лингвистика. Но в начале восьмидесятых годов за ней закрепилось название
компьютерная лингвистика.Компьютерная лингвистика - это область знаний, связанная с решением задач
автоматической обработки информации, представленной на естественном языке.
Центральными научными проблемами компьютерной лингвистики являются проблема
моделирования процесса понимания смысла текстов (перехода от текста к
формализованному представлению его смысла) и проблема синтеза речи (перехода от
формализованного представления смысла к текстам на естественном языке). Эти проблемы
возникают при решении ряда прикладных задач:
1) автоматического обнаружения и исправления ошибок при вводе текстов в ЭВМ,
2) автоматического анализа и синтеза устной речи,
3) автоматического перевода текстов с одних языков на другие,
4) общения с ЭВМ на естественном языке,
5) автоматической классификации и индексирования текстовых документов, их
автоматического реферирования, поиска документов в полнотекстовых базах данных.
За прошедшие полвека в области компьютерной лингвистики были получены
значительные научные и практические результаты: были созданы системы машинного
перевода текстов с одних естественных языков на другие, системы автоматизированного
поиска информации в текстах, системы автоматического анализа и синтеза устной речи и
многие другие. Но были и разочарования. Например, проблема машинного перевода
текстов с одних языков на другие оказалась значительно сложнее, чем это представляли
себе пионеры машинного перевода и их последователи. То же самое можно сказать об
автоматизированном поиске информации в текстах и о задаче анализа и синтеза устной
речи. Ученым и инженерам придется по-видимому еще немало потрудиться, чтобы
достигнуть нужных результатов.Обработка естественного языка (англ. natural language processing; синтаксический,
морфологический, семантический анализы текста). Сюда включают также:
Корпусная лингвистика, создание и использование электронных корпусов текстов
Создание электронных словарей, тезаурусов, онтологий. Например, Lingvo. Словари
используют, например, для автоматического перевода, проверки орфографии.
Автоматический перевод текстов. Среди русских переводчиков популярным
является Промт. Среди бесплатных известен переводчик Google Translate
Автоматическое извлечение фактов из текста (извлечение информации) (англ. fact
extraction, text mining)
Автореферирование (англ. automatic text summarization). Эта функция включена,
например, в Microsoft Word.
Построение систем управления знаниями. См. Экспертные системы
Создание вопросно-ответных систем (англ. question answering systems).
Оптическое распознавание символов (англ. OCR). Например, программа FineReader
Автоматическое распознавание речи (англ. ASR). Есть платное и бесплатное ПО
Автоматический синтез речи
Использованная литература
:
1. Марчук Ю.Н. Компьютерная лингвистика: учебное пособие/Ю.Н. Марчук.- М.:АСТ: Восток –Запад, 2007ю- 317 с.
2. Шилихина К.М. Основы прикладной лингвистики: учебное пособие по специальности 021800 (031301) – Теоретическая и прикладная лингвистика, Воронеж, 2006.
3. Боярский К.К. Введение в компьютерную лингвистику. Учебное пособие.- СПб: НИУ ИТМО, 2013.- 72 с.
4. Щипицина Л.Ю. Информационные технологии в лингвистике: учебное пособие/ Л.Ю. Щипицина.- М.: ФЛИНТА: наука, 2013.- 128 с.
5. Соснина Е.П. Введение в прикладную лингвистику: учебное пособие/ Е.П.Соснина.- 2-е изд., испр. и доп. – Ульяновск: УлГТУ, 2012. -110 с.
6. Баранов А.Н. Введение в прикладную лингвистику: Учебное пособие.- М.: Эдиториал УРСС, 2001.- 360 с.
7. Прикладное языкознание: Учебник/ Л.В. Бондарко, Л.А. Вербицкая, Г.Я. Мартыненко и др.; Отв. Редактор А.С. Герд. СПб.: изд-во С.-Петербург. Ун-та, 1996.- 528 с.
8. Шемякин Ю.И. Начала компьютерной лингвистики: Учебное пособие. М.: Изд-во МГОУ, А/О «Росвузнаука», 1992.
-
Лингви́стика (от лат. lingua -
язык), языкозна́ние, языкове́дение - наука,
изучающая языки.
Это наука о естественном человеческом языке вообще
и обо всех языках мира как его
индивидуализированных представителях.
В широком смысле слова, лингвистика
подразделяется на научную и практическую. Чаще
всего под лингвистикой подразумевается именно
научная лингвистика. Является частью семиотики как
науки о знаках.
Лингвистикой профессионально занимаются учёныелингвисты.
Лингвистика и Информатика.
В жизни современного общества важную роль играют автоматизированные
информационные технологии. Но развитие информационных технологий происходит
весьма неравномерно: если современный уровень вычислительной техники и
средств связи поражает воображение, то в области смысловой обработки
информации успехи значительно скромнее. Эти успехи зависят, прежде всего, от
достижений в изучении процессов человеческого мышления, процессов речевого
общения между людьми и от умения моделировать эти процессы на ЭВМ. А это задача чрезвычайной сложности.Когда речь идет о создании перспективных
информационных технологий, то проблемы автоматической обработки текстовой
информации, представленной на естественных языках, выступают на передний план.
Это определяется тем, что мышление человека тесно связано с его языком. Более
того, естественный язык является инструментом мышления. Он является также
универсальным средством общения между людьми – средством восприятия,
накопления, хранения, обработки и передачи информации.
Проблемами использования естественного языка в системах автоматической
обработки информации занимается наука компьютерная лингвистика. Эта наука
возникла сравнительно недавно – на рубеже пятидесятых и шестидесятых годов
прошлого столетия. Поначалу, в период своего становления, она имела различные
названия: математическая лингвистика, вычислительная лингвистика, инженерная
лингвистика. Но в начале восьмидесятых годов за ней закрепилось название
компьютерная лингвистика.Компьютерная лингвистика - это область знаний, связанная с решением задач
автоматической обработки информации, представленной на естественном языке.
Центральными научными проблемами компьютерной лингвистики являются проблема
моделирования процесса понимания смысла текстов (перехода от текста к
формализованному представлению его смысла) и проблема синтеза речи (перехода от
формализованного представления смысла к текстам на естественном языке). Эти проблемы
возникают при решении ряда прикладных задач:
1) автоматического обнаружения и исправления ошибок при вводе текстов в ЭВМ,
2) автоматического анализа и синтеза устной речи,
3) автоматического перевода текстов с одних языков на другие,
4) общения с ЭВМ на естественном языке,
5) автоматической классификации и индексирования текстовых документов, их
автоматического реферирования, поиска документов в полнотекстовых базах данных.
За прошедшие полвека в области компьютерной лингвистики были получены
значительные научные и практические результаты: были созданы системы машинного
перевода текстов с одних естественных языков на другие, системы автоматизированного
поиска информации в текстах, системы автоматического анализа и синтеза устной речи и
многие другие. Но были и разочарования. Например, проблема машинного перевода
текстов с одних языков на другие оказалась значительно сложнее, чем это представляли
себе пионеры машинного перевода и их последователи. То же самое можно сказать об
автоматизированном поиске информации в текстах и о задаче анализа и синтеза устной
речи. Ученым и инженерам придется по-видимому еще немало потрудиться, чтобы
достигнуть нужных результатов.Обработка естественного языка (англ. natural language processing; синтаксический,
морфологический, семантический анализы текста). Сюда включают также:
Корпусная лингвистика, создание и использование электронных корпусов текстов
Создание электронных словарей, тезаурусов, онтологий. Например, Lingvo. Словари
используют, например, для автоматического перевода, проверки орфографии.
Автоматический перевод текстов. Среди русских переводчиков популярным
является Промт. Среди бесплатных известен переводчик Google Translate
Автоматическое извлечение фактов из текста (извлечение информации) (англ. fact
extraction, text mining)
Автореферирование (англ. automatic text summarization). Эта функция включена,
например, в Microsoft Word.
Построение систем управления знаниями. См. Экспертные системы
Создание вопросно-ответных систем (англ. question answering systems).
Оптическое распознавание символов (англ. OCR). Например, программа FineReader
Автоматическое распознавание речи (англ. ASR). Есть платное и бесплатное ПО
Автоматический синтез речи
Использованная литература
:
1. Марчук Ю.Н. Компьютерная лингвистика: учебное пособие/Ю.Н. Марчук.- М.:АСТ: Восток –Запад, 2007ю- 317 с.
2. Шилихина К.М. Основы прикладной лингвистики: учебное пособие по специальности 021800 (031301) – Теоретическая и прикладная лингвистика, Воронеж, 2006.
3. Боярский К.К. Введение в компьютерную лингвистику. Учебное пособие.- СПб: НИУ ИТМО, 2013.- 72 с.
4. Щипицина Л.Ю. Информационные технологии в лингвистике: учебное пособие/ Л.Ю. Щипицина.- М.: ФЛИНТА: наука, 2013.- 128 с.
5. Соснина Е.П. Введение в прикладную лингвистику: учебное пособие/ Е.П.Соснина.- 2-е изд., испр. и доп. – Ульяновск: УлГТУ, 2012. -110 с.
6. Баранов А.Н. Введение в прикладную лингвистику: Учебное пособие.- М.: Эдиториал УРСС, 2001.- 360 с.
7. Прикладное языкознание: Учебник/ Л.В. Бондарко, Л.А. Вербицкая, Г.Я. Мартыненко и др.; Отв. Редактор А.С. Герд. СПб.: изд-во С.-Петербург. Ун-та, 1996.- 528 с.
8. Шемякин Ю.И. Начала компьютерной лингвистики: Учебное пособие. М.: Изд-во МГОУ, А/О «Росвузнаука», 1992.
-
Лингви́стика (от лат. lingua -
язык), языкозна́ние, языкове́дение - наука,
изучающая языки.
Это наука о естественном человеческом языке вообще
и обо всех языках мира как его
индивидуализированных представителях.
В широком смысле слова, лингвистика
подразделяется на научную и практическую. Чаще
всего под лингвистикой подразумевается именно
научная лингвистика. Является частью семиотики как
науки о знаках.
Лингвистикой профессионально занимаются учёныелингвисты.
Лингвистика и Информатика.
В жизни современного общества важную роль играют автоматизированные
информационные технологии. Но развитие информационных технологий происходит
весьма неравномерно: если современный уровень вычислительной техники и
средств связи поражает воображение, то в области смысловой обработки
информации успехи значительно скромнее. Эти успехи зависят, прежде всего, от
достижений в изучении процессов человеческого мышления, процессов речевого
общения между людьми и от умения моделировать эти процессы на ЭВМ. А это задача чрезвычайной сложности.Когда речь идет о создании перспективных
информационных технологий, то проблемы автоматической обработки текстовой
информации, представленной на естественных языках, выступают на передний план.
Это определяется тем, что мышление человека тесно связано с его языком. Более
того, естественный язык является инструментом мышления. Он является также
универсальным средством общения между людьми – средством восприятия,
накопления, хранения, обработки и передачи информации.
Проблемами использования естественного языка в системах автоматической
обработки информации занимается наука компьютерная лингвистика. Эта наука
возникла сравнительно недавно – на рубеже пятидесятых и шестидесятых годов
прошлого столетия. Поначалу, в период своего становления, она имела различные
названия: математическая лингвистика, вычислительная лингвистика, инженерная
лингвистика. Но в начале восьмидесятых годов за ней закрепилось название
компьютерная лингвистика.Компьютерная лингвистика - это область знаний, связанная с решением задач
автоматической обработки информации, представленной на естественном языке.
Центральными научными проблемами компьютерной лингвистики являются проблема
моделирования процесса понимания смысла текстов (перехода от текста к
формализованному представлению его смысла) и проблема синтеза речи (перехода от
формализованного представления смысла к текстам на естественном языке). Эти проблемы
возникают при решении ряда прикладных задач:
1) автоматического обнаружения и исправления ошибок при вводе текстов в ЭВМ,
2) автоматического анализа и синтеза устной речи,
3) автоматического перевода текстов с одних языков на другие,
4) общения с ЭВМ на естественном языке,
5) автоматической классификации и индексирования текстовых документов, их
автоматического реферирования, поиска документов в полнотекстовых базах данных.
За прошедшие полвека в области компьютерной лингвистики были получены
значительные научные и практические результаты: были созданы системы машинного
перевода текстов с одних естественных языков на другие, системы автоматизированного
поиска информации в текстах, системы автоматического анализа и синтеза устной речи и
многие другие. Но были и разочарования. Например, проблема машинного перевода
текстов с одних языков на другие оказалась значительно сложнее, чем это представляли
себе пионеры машинного перевода и их последователи. То же самое можно сказать об
автоматизированном поиске информации в текстах и о задаче анализа и синтеза устной
речи. Ученым и инженерам придется по-видимому еще немало потрудиться, чтобы
достигнуть нужных результатов.Обработка естественного языка (англ. natural language processing; синтаксический,
морфологический, семантический анализы текста). Сюда включают также:
Корпусная лингвистика, создание и использование электронных корпусов текстов
Создание электронных словарей, тезаурусов, онтологий. Например, Lingvo. Словари
используют, например, для автоматического перевода, проверки орфографии.
Автоматический перевод текстов. Среди русских переводчиков популярным
является Промт. Среди бесплатных известен переводчик Google Translate
Автоматическое извлечение фактов из текста (извлечение информации) (англ. fact
extraction, text mining)
Автореферирование (англ. automatic text summarization). Эта функция включена,
например, в Microsoft Word.
Построение систем управления знаниями. См. Экспертные системы
Создание вопросно-ответных систем (англ. question answering systems).
Оптическое распознавание символов (англ. OCR). Например, программа FineReader
Автоматическое распознавание речи (англ. ASR). Есть платное и бесплатное ПО
Автоматический синтез речи
Использованная литература :
1. Марчук Ю.Н. Компьютерная лингвистика: учебное пособие/Ю.Н. Марчук.- М.:АСТ: Восток –Запад, 2007ю- 317 с.
2. Шилихина К.М. Основы прикладной лингвистики: учебное пособие по специальности 021800 (031301) – Теоретическая и прикладная лингвистика, Воронеж, 2006.
3. Боярский К.К. Введение в компьютерную лингвистику. Учебное пособие.- СПб: НИУ ИТМО, 2013.- 72 с.
4. Щипицина Л.Ю. Информационные технологии в лингвистике: учебное пособие/ Л.Ю. Щипицина.- М.: ФЛИНТА: наука, 2013.- 128 с.
5. Соснина Е.П. Введение в прикладную лингвистику: учебное пособие/ Е.П.Соснина.- 2-е изд., испр. и доп. – Ульяновск: УлГТУ, 2012. -110 с.
6. Баранов А.Н. Введение в прикладную лингвистику: Учебное пособие.- М.: Эдиториал УРСС, 2001.- 360 с.
7. Прикладное языкознание: Учебник/ Л.В. Бондарко, Л.А. Вербицкая, Г.Я. Мартыненко и др.; Отв. Редактор А.С. Герд. СПб.: изд-во С.-Петербург. Ун-та, 1996.- 528 с.
8. Шемякин Ю.И. Начала компьютерной лингвистики: Учебное пособие. М.: Изд-во МГОУ, А/О «Росвузнаука», 1992.
-
Лингви́стика (от лат. lingua -
Лингвистика и Информатика.
язык), языкозна́ние, языкове́дение - наука,
изучающая языки.
Это наука о естественном человеческом языке вообще
и обо всех языках мира как его
индивидуализированных представителях.
В широком смысле слова, лингвистика
подразделяется на научную и практическую. Чаще
всего под лингвистикой подразумевается именно
научная лингвистика. Является частью семиотики как
науки о знаках.
Лингвистикой профессионально занимаются учёныелингвисты.
В жизни современного общества важную роль играют автоматизированные
информационные технологии. Но развитие информационных технологий происходит
весьма неравномерно: если современный уровень вычислительной техники и
средств связи поражает воображение, то в области смысловой обработки
информации успехи значительно скромнее. Эти успехи зависят, прежде всего, от
достижений в изучении процессов человеческого мышления, процессов речевого
общения между людьми и от умения моделировать эти процессы на ЭВМ. А это задача чрезвычайной сложности.Когда речь идет о создании перспективных
информационных технологий, то проблемы автоматической обработки текстовой
информации, представленной на естественных языках, выступают на передний план.
Это определяется тем, что мышление человека тесно связано с его языком. Более
того, естественный язык является инструментом мышления. Он является также
универсальным средством общения между людьми – средством восприятия,
накопления, хранения, обработки и передачи информации.
Проблемами использования естественного языка в системах автоматической
обработки информации занимается наука компьютерная лингвистика. Эта наука
возникла сравнительно недавно – на рубеже пятидесятых и шестидесятых годов
прошлого столетия. Поначалу, в период своего становления, она имела различные
названия: математическая лингвистика, вычислительная лингвистика, инженерная
лингвистика. Но в начале восьмидесятых годов за ней закрепилось название
компьютерная лингвистика.Компьютерная лингвистика - это область знаний, связанная с решением задач
автоматической обработки информации, представленной на естественном языке.
Центральными научными проблемами компьютерной лингвистики являются проблема
моделирования процесса понимания смысла текстов (перехода от текста к
формализованному представлению его смысла) и проблема синтеза речи (перехода от
формализованного представления смысла к текстам на естественном языке). Эти проблемы
возникают при решении ряда прикладных задач:
1) автоматического обнаружения и исправления ошибок при вводе текстов в ЭВМ,
2) автоматического анализа и синтеза устной речи,
3) автоматического перевода текстов с одних языков на другие,
4) общения с ЭВМ на естественном языке,
5) автоматической классификации и индексирования текстовых документов, их
автоматического реферирования, поиска документов в полнотекстовых базах данных.
За прошедшие полвека в области компьютерной лингвистики были получены
значительные научные и практические результаты: были созданы системы машинного
перевода текстов с одних естественных языков на другие, системы автоматизированного
поиска информации в текстах, системы автоматического анализа и синтеза устной речи и
многие другие. Но были и разочарования. Например, проблема машинного перевода
текстов с одних языков на другие оказалась значительно сложнее, чем это представляли
себе пионеры машинного перевода и их последователи. То же самое можно сказать об
автоматизированном поиске информации в текстах и о задаче анализа и синтеза устной
речи. Ученым и инженерам придется по-видимому еще немало потрудиться, чтобы
достигнуть нужных результатов.Обработка естественного языка (англ. natural language processing; синтаксический,
морфологический, семантический анализы текста). Сюда включают также:
Корпусная лингвистика, создание и использование электронных корпусов текстов
Создание электронных словарей, тезаурусов, онтологий. Например, Lingvo. Словари
используют, например, для автоматического перевода, проверки орфографии.
Автоматический перевод текстов. Среди русских переводчиков популярным
является Промт. Среди бесплатных известен переводчик Google Translate
Автоматическое извлечение фактов из текста (извлечение информации) (англ. fact
extraction, text mining)
Автореферирование (англ. automatic text summarization). Эта функция включена,
например, в Microsoft Word.
Построение систем управления знаниями. См. Экспертные системы
Создание вопросно-ответных систем (англ. question answering systems).
Оптическое распознавание символов (англ. OCR). Например, программа FineReader
Автоматическое распознавание речи (англ. ASR). Есть платное и бесплатное ПО
Автоматический синтез речи
