Методики развития

Методы экспертной оценки товаров. Экспертная оценка качества функционирования информационных систем в образовательном сервисе

Механизм потребительского выбора достаточно консервативен, поскольку базируется, как правило, на использовании только того, что уже хорошо себя зарекомендовало. В значительной степени он ориентирован на прошлое, чем на возможное будущее.

В условиях рынка основой оценки качества продукции должна стать объективная общественная полезность продукции, что будет отражать ее прогрессивность и соответствие чертам нового быта. Одним из методов, который может обеспечить именно такую оценку продукции, может стать экспертный метод.

Экспертный метод оценки качества продукции предусматривает выяснение мнения экспертов.

Эксперт – это квалифицированный специалист, который соответствует требованиям профессиональной и квалиметрической компетентности, деловитости и объективности, а также заинтересованный в работе экспертной комиссии.

Использование экспертных методов рационально при наличии одной из двух причин:

· задание не может быть выполнено никаким другим методом;

· другие методы выполнения задания или менее точные, или более трудоемкие.

Экспертные методы совместно с другими или самостоятельно могут быть использованы для:

· классификации продукции;

· определения номенклатуры показателей качества продукции;

· определения коэффициентов весомости отдельных показателей качества;

· выбора базовых образцов продукции и определения значений отдельных показателей качества этих образцов;

· определение органолептических показателей качества оцениваемой продукции;

· определение комплексных показателей качества продукции.

Привлечение к работе в экспертных комиссиях высококвалифицированных экспертов позволяет получить точную и воспроизводимую оценку качества товаров. Проведенные эксперименты подтверждают, что при правильной методике экспертной оценке ошибка результатов находится в пределах 5–10 %, и ее целиком можно сопоставить с результатами инструментальных методов.

Для оценки качества продукции экспертным методом создаются экспертные комиссии. Порядок создания, цели и задания такой комиссии определяются приказом или распоряжением руководителя министерства, ведомства, объединения, фирмы. Общий алгоритм операций создания и работы экспертной комиссии, которая использует методы группового опроса, приведен на рисунке 7.1.



Работа экспертной группы заканчивается статистической обработкой экспертных оценок, их анализом и принятием обоснованных решений.

Основные преимущества групповой экспертной оценки заключается в возможности разностороннего анализа проблем, связанных с определением отдельных характеристик товара. Взаимодействие между экспертами увеличивает объем суммарной информации по сравнению с информацией каждого члена группы. При групповой оценке меньше вероятность ошибки конечного результата работы. В большинстве случаев групповая оценка более надежная, чем оценка каждого эксперта в отдельности.

Рабочая группа готовит и проводит экспертную оценку качества продукции. Ее заданием является подготовка экспертов, помощь в проведении оценки качества, обработка, анализ, обобщение результатов и установление коллективного мнения экспертов. Она начинает свою деятельность с подбора экспертов и формирования экспертной группы.


Рис. 7.1. Общий алгоритм операций по созданию и работе экспертной комиссии

Экспертная комиссия состоит из двух групп – рабочей и экспертной.

В состав рабочей группы входят:

· организатор (он же председатель экспертной комиссии) осуществляет методическое руководство работой на всех этапах. Он должен быть квалифицированным специалистом в области методологии оценки качества продукции, знать основы ее производства и процессы, которые могут меть место в данной продукции, при ее производстве, транспортировании и хранении. Он создает рабочую группу; составляет программу работ; принимает участие в опросе экспертов; анализирует результаты каждой операции, а также окончательные итоги, формулирует выводы и предложения на основе полученных результатов проведенной дегустации;

· специалист – это высококвалифицированный работник фирмы, при которой формируется экспертная комиссия. Желательно, чтобы он имел универсальные знания о продукции, касающиеся как ее производства, так и особенностей использования. Задача специалиста – анализ информации, полученной от экспертов, для корректировки дальнейшей работы фирмы. программист. Если оценка качества продукции или обработка результатов производится с использованием компьютерной техники, то основной задачей этого специалиста является разработка программы для проведения такой работы и последующей обработки полученных результатов;

· технические работники разъясняют положенияанкеты, если они не достаточно понятны экспертам, проводят их опрос, получают от экспертов анкеты, могут уточнять результаты, но высказывать свое мнение в отношении оценки экспертов не должны.

Формирование экспертной группы. Организатор и специалист составляют список экспертов (учитывается служебное положение, время и характер работы, профессия). В состав группы должны войти специалисты разных направлений производства и оценки качества товара (проектирования, технологии производства, эстетики, исследования качества).

Экспертная группа может формироваться из работников одной или нескольких фирм, которые выпускают (реализуют)товары данной группы. При этом необходимо учитывать тенденции и взгляды на качество продукции, которые господствуют в данной фирме, служебное положение (субординацию) экспертов, создание и поддержание психологического климата в группе. Желательно отдавать предпочтение созданию экспертной группы на базе одной фирм с приглашением к работе нескольких специалистов других фирм.

Результат работы экспертной комиссии в значительной степени зависит от количества экспертов и их компетентности. Подбор экспертов – это чрезвычайно тяжелая задача. Она связана с тем, что:

· необходимо учитывать индивидуальные способности экспертов, а надежной методики определение этих способностей нет;

· недостаточно изучены психофизиологические особенности человека, от которых в значительной мере зависит работа экспертов;

· существует противоречие между желанием уменьшить затраты на экспертизу путем использования ограниченного количества экспертов для оценки качества широкой номенклатуры товаров и желанием увеличить точность и надежность экспертной оценки.

По мнению Г.Г. Азгальдова и Е.П. Райхмана, компетентность экспертов определяется 4-мя группами свойств (рис. 7.2).

Профессиональная подготовка предусматривает знания различных сторон проектирования и производства продукции, требований потребителей, условий и характера использования (эксплуатации).

Квалиметрическая подготовка обеспечивает четкое понимание экспертом принципов и методов оценки качества продукции, знание методов определения отдельных показателей качества и умение пользоваться ними в процессе практической работы (использование различных типов оценочных шкал, способность различать достаточное число градаций оцениваемой продукции).


Рис. 7.2. Показатели компетентности экспертов

Заинтересованность эксперта в работе экспертной комиссии зависит от многих факторов:

· целей экспертизы;

· характера выводов;

· индивидуальных особенностей эксперта,

· занятости на основной работе;

· возможности использования результатов экспертной оценки в собственной практической работе.

Деловитость эксперта включает подвижность и эластичность внимания (способность быстро переключать внимание с одного показателя на другой); собранность; оперативность; обоснованность выводов; контактность (умение работать с людьми в конфликтных ситуациях); мотивированность выставленной оценки.

Объективность эксперта заключается в том, что он делает выводи на основе действительного уровня качества оцениваемой продукции, а не руководствуется другими мнениями.

Методы оценки компетентности экспертов делят на 5 групп: эвристические, статистические, тестовые, документальные и комбинированные.

Эвристическая (от греч. heurisko – отыскиваю, открываю) оценка эксперта базируется на оценке окружающих людей или самооценке. Существуют такие виды эвристических оценок: самооценка, взаимооценка, оценка рабочей группы.

Самооценка – это метод, при котором оценку собственной компетентности дает сам эксперт. Установлено, что достоверность средней экспертной оценки тем выше, чем больше среднее значение самооценки членов экспертной группы. Между тем необходимо иметь ввиду, что результаты самооценки почти всегда субъективны, что является недостатком этого метода.

З целью повышения точности результатов самооценки ее проводят дифференцированно. Показатель самооценки определяют как функцию двух коэффициентов: информированности и знаний оцениваемой продукции и аргументированности своей оценки. Т.Г. Роднина и Г.О. Вукс предлагают определять информированность и знание экспертом оцениваемой продукции при помощи «Анкеты самооценки» (приложение А). В анкете эксперт отмечает регулярность знакомства с источниками информации, а также степень своего знакомства с оцениваемой продукцией. Самооценка рассчитывается по формуле:

К сам = В эсп I экс,

где К сам – коэффициент самооценки эксперта;

В экс – весомость показателей информированности и знаний;

I экс – оценка, которая зависит от степени информированности.

Пример расчета К сам приведен в приложении Б.

Взаимооценка – это эвристическая оценка эксперта, которая дается другими экспертами, она должна уменьшить субъективность самооценки каждого эксперта. Известно, что существует взаимосвязь между компетентностью эксперта и средней оценкой, которую он получил от своих коллег. Сущность этого вида оценки состоит в том, что каждый член экспертной группы дает оценку всем другим экспертам, а потом рассчитывается средняя оценка каждого эксперта.

Недостатки взаимооценки:

· эксперты могут недостаточно знать один другого;

· на результаты оценки могут влиять взаимные симпатии или антипатии;

· разные эксперты могут неоднозначно воспринимать понятие «компетентность эксперта»;

· использовать взаимооценку только в тех комиссиях, где эксперты хорошо знают друг друга;

· проводить анонимное анкетирование;

· объяснять, что результаты анкетирования будут использоваться только для корректировки оценок товара.

Оценка эксперта рабочей группой – это эвристическая оценка, которая должна дать количественную характеристику заинтересованности эксперта в экспертной оценке и его внимательности в процессе опроса. Оценка дается специалистами-аналитиками, которые проводят опрос экспертов после экспертной оценки продукции. При этом они оценивают отношение экспертов к экспертизе а также их активность при обсуждении результатов. Чаще всего для такую оценку рекомендуют использовать 10–балльную оценку.

Статистическая оценка . – это оценка, полученная после статистической обработки мнений экспертов об объекте оценки. Эти оценки используются с целью уменьшения ошибок, которые возникают при экспертных оценках. Необходимость статистической обработки результатов экспертизы обусловлена тем, что в отличии от измерений, которые проводятся при помощи технических средств и базируется на сравнении неизвестных величин с известными, при экспертных методах часто известная величина отсутствует. К тому же на точность экспертных оценок влияет много факторов объективного и субъективного характера, вследствие чего возникают систематические или случайные ошибки.

Систематическая ошибка – это ошибка, которая постоянно повторяется в процессе данного определения. Основная причина ее появления является недостаточная или неточная информация экспертов. Уменьшить ее можно путем ознакомления экспертов с необходимой информацией до начала работы экспертной комиссии. Систематическую ошибку можно определить по величине отклонения оценки каждого эксперта от среднего значения, полученной в экспертной комиссии.

Случайная ошибка зависит от психофизиологических особенностей эксперта (собранности, внимательности, уверенности в собственной правоте). Она уменьшается, если эксперт часто принимает участие в работе экспертных комиссий и имеет практический опыт.

Оценка объективности эксперта – это оценка способности эксперта к непреднамеренной оценке конкретного образца товара. Это очень важная характеристика компетентности эксперта, которая существенно влияет на точность результатов экспертной оценки.

Тестовые оценки позволяют при помощи тестирования определить психофизиологические особенности экспертов. Их используют для оценки объективности, квалиметрической и профессиональной подготовленности эксперта. Тестирование позволяет оценить личностные черты, чего нельзя сделать никакими другими методами. Недостатком данного метода можно считать невозможность сравнить данные, полученные методом тестирования, с данными, полученными при помощи других объективных методов.

При составлении тестов необходимо придерживаться таких требований:

· эксперт должен понимать постановку тестового задания и условия, которым отвечает его решение;

· вероятность случайного угадывания решения задания должна быть близка нулю;

· тестовое задание должно иметь точный ответ;

· необходимо обосновать приближение тестового задания и реальных задач, которые решает эксперт при оценке качества продукции.

Оценка квалилиметрической подготовки эксперта – это оценка теоретических знаний методов оценки показателей качества продукции и умение их использовать в практической работе. Эта оценка может проводиться путем устного или письменного контроля знаний с использованием тестов.

Несколько сложнее проверить такие знания, как умение использовать различные типы оценочных шкал, определять субъективную вероятность, распознавать достаточное количество градаций показателей качества.

Документальная оценка – это оценка эксперта на основе документов, которые подтверждают его соответствие установленным требованиям. Например, компетентность эксперта может быть подтверждена общими сведениями, которые приводятся в анкете: опыт – копией трудовой книжки; профессиональная подготовка – дипломом профессионального образования; специальная подготовка – аттестатом или свидетельством установленного образца о специальной подготовке; повышение квалификации – соответствующим свидетельством.

Документальная оценка может быть только дополнением к другим методам оценки компетентности эксперта и самостоятельного значения не имеет. Это обусловлено тем, что часть информации, которая есть в документах, дублирует другие оценки.

Комбинированная оценка предполагает использование различных методов оценки компетентности экспертов. Так как различные методы этой оценки имеют свои преимущества и недостатки, то их совместное использование может позволить усилить преимущества и смягчить недостатки отдельных методов.

Контрольные вопросы и задания

1. В чем суть потребительных методов сенсорного анализа?

2. Какие условия необходимо создавать при создании дегустационных комиссий для потребительской оценки?

3. Какие правила необходимо соблюдать при составлении анкеты для потребительской оценки?

4. В чем суть парного и треугольного методов исследования?

5. В чем суть аналитических методов сенсорного анализа?

6. С какой целью чаще всего используют метод оазведения?

7. В чем суть бальной оценки качества товаров?

8. Какие требования необходимо соблюдать при разработке бальной системы оценки качества товара?

9. С какой целью устанавливают коэффициенты значимости показателей качества?

10. В чем суть экспертного метода оценки качества товаров?

11. Назовите основные этапы и операции, имеющие место при проведении экспертной оценки.

12. Какие существуют методы оценки компетентности экспертов?

13. Охарактеризуйте основные методы оценки компетентности экспертов (эвристический, тестовый, документальный).

Высокое качество работы экспертов, участвующих в опросе, оказывает решающие влияние на получение точных и надежных результатов.

Качество экспертов определяется следующими группами свойств: компетентностью, заинтересованностью в результатах экспертизы, деловитостью и объективностью (беспристрастностью).

Компетентность эксперта должна распространяться на объект экспертизы (профессиональная компетентность) и методологию оценки (квалиметрическая компетентность).

Профессиональная компетентность включает знание технологических этапов производства продукции, значения показателей качества различных ее видов, перспектив развития продукции. требований потребителей, условий и характера потребления.

Квалиметрическая компетентность обеспечивает четкое понимание экспертом подхода к оценке качества продукции как к мере удовлетворения ею потребностей потребителей; знание методов оценки качества, особенно экспертных методов; умение пользоваться различными квалиметрическими шкалами, отличающихся большим числом градаций.

Заинтересованность эксперта в результатах экспертизы зависит от многих факторов: степени загруженности основной работой, с которой, как правило, совмещается экспертиза; возможности использования полученных результатов; целей экспертизы; характера выводов, которые могут быть сделаны по результатам экспертизы; индивидуальных особенностей эксперта.

Деловитость эксперта включает собранность, подвижность и эластичность внимания, позволяющие быстро переключаться с оценки одного показателя качества на оценку другого; контактность, т.е. умение работать с людьми при решении задач в конфликтной ситуации; мотивированность выносимых оценок.

Объективность (беспристрасность) -- способность учитывать только ту информацию, которая определяет удовлетворение потребности данной продукции. Необъективность эксперта заключается в завышении или занижении оценок объекта экспертизы по причинам, не имеющим отношения к качеству, например, из-за неспособности противостоять мнению большинства других экспертов вследствие неуверенности в своей правоте (проявление конформизма).

Методы оценки качества экспертов подразделяются на пять групп:

· эвристические (субъективные);

· статистические;

· тестовые;

· документальные;

· комбинированные.

Каждая из указанных групп делится на виды (частные оценки) и методы их получения.

Эвристические (субъективные) оценки оценки, назначаемые человеком и основанные на предположении правильности отражения качества эксперта через оценку окружающих или самооценку.

Различают следующие виды эвристических оценок:

· самооценка;

· взаимооценка;


· оценка аргументированности и знакомства с объектом экспертизы;

· оценка эксперта рабочей группой.

Самооценка – вид и метод эвристической оценки компетентности самим экспертом. Установлено, что достоверность усредненной экспертной оценки тем выше, чем больше среднее значение самооценки членов группы. В то же время следует иметь в виду, что самооценка отличается значительной субъективностью, а это влечет за собой определенные недостатки ее. Самооценка зависит от психологических особенностей экспертов (наличия высокой или заниженной самооценки, иногда и необоснованно), степени удовлетворенности собой, понимания оценочной шкалы. Этим объясняется несовпадение результатов самооценки и взаимооценки.

Для снижения субъективности самооценку проводят дифференцированно, что повышает точность результатов. Для этого показатель самооценки определяется как функция двух коэффициентов: знакомства и аргументированности. Для экспертной оценки товаров самооценку эксперта рекомендуется определять с учетом его информированности и знакомства с оцениваемой продукцией путем заполнения «Анкеты самооценки». Эксперт отмечает регулярность чтения перечисленных в анкете источников информации и степень знакомства с оцениваемой продукцией.

Самооценка (K ca м j ) рассчитывается по формуле

K ca м j = Σ M i · K ij ,

где M i – весомость показателей информированности и знакомства; K ij – оценка, зависящая от степени информированности и знакомства.

Поскольку Σ M i = 1,00, а 0 ≤ K ij ≤ 10, то 0 ≤ K ca м j ≤ 10.

С учетом специфики оцениваемой продукции весомость отдельных показателей (M i ) может корректироваться экспертной группой.

Взаимооценка - вид и метод эвристической оценки, определяемой как средняя из оценок, назначаемых другими экспертами. Данная оценка предназначена для уменьшения субъективности оценки компетентности каждого эксперта. Установлено, что существует тесная связь между компетентностью эксперта и его усредненной оценкой, полученной от коллег. Сущность этого вида оценки заключается в том, что каждый эксперт дает оценку всем остальным экспертам, а затем рассчитывается усредненный результат.

В зависимости от количества экспертов в группе применяются две разные процедуры:

· при численности экспертов в группе менее 15 человек каждый эксперт оценивает всех остальных;

· при численности экспертов 15 человек и выше заполняется специальная анкета, в которой эксперты по квалификации поделены на три группы выше средней, средней и ниже средней квалификации, а также по рангам внутри подгрупп (по 68 человек в каждой). Затем ранжируют экспертов каждой подгруппы. Ранг 1 самый квалифицированный эксперт, 2 следующий по квалификации и т. д. Каждому оцениваемому эксперту присваивается числовая оценка от 10 баллов (самый квалифицированный) до 0 (совершенно неквалифицированный) с точностью до 0,5 балла.

Недостатки взаимооценки заключаются в следующем:

· эксперты могут недостаточно знать друг друга;

· на результаты оценки могут влиять взаимные симпатии или антипатии;

· эксперты, как правило, стремятся избегать сверхвысоких и сверхнизких оценок;

· неоднозначность восприятия понятия «качество эксперта».

· применять взаимооценку только в тех группах, в которых большинство экспертов хорошо знают друг друга. Если некоторые из оцениваемых экспертов незнакомы, то рекомендуется ставить прочерк в соответствующей графе;

· проводить анонимное анкетирование;

· разъяснять, что результаты анкеты будут использованы только для корректировки оценок товара;

· знакомить экспертов со структурной схемой свойств и их частных оценок.

Оценка аргументированности и знакомства с объектом экспертизы – вид и метод эвристической оценки степени специализации эксперта и факторов, влияющих на его компетентность. Эвристическая оценка компетентности, основанная на учете степени специализации и знакомства, обладает высокой эффективностью и достоверностью при условии тщательной проработки методов количественной оценки каждого из этих факторов в виде оценочных анкет. В данном случае оцениваются только те факторы, которые могут характеризоваться лишь субъективно в форме самооценки; эксперт количественно оценивает степень своей специализации по данному виду продукции и форму знакомства с ней. Затем с помощью специальной анкеты (похожей на анкету самооценки) определяет коэффициент аргументированности своих знаний и дает оценку степени своего знакомства с исследуемой проблемой. Коэффициент компетентности вычисляется как среднее арифметическое из коэффициентов аргументированности и знакомства.

Оценка эксперта рабочей группой – вид и метод эвристической оценки, предназначенной для количественной характеристики заинтересованности эксперта в экспертной оценке и его внимательности в ходе опроса. Оценка дается специалистами-аналитиками, проводящими опрос экспертов. При этом они оценивают отношение экспертов к проводимой экспертизе и их активность при обсуждении оценок. Оценки рабочей группы целесообразно выносить по 10-балльной шкале.

Статистические оценки оценки, полученные в результате обработки суждений экспертов об объекте оценки.

Эти оценки применяются с целью уменьшения по мере возможности погрешностей, возникающих при экспертных оценках. Необходимость их обусловлена тем, что в отличие от измерений с помощью технических устройств, основанных на сравнении неизвестных величин с известными, при экспертных методах часто отсутствует известная величина (или образец, или эталон товара), значение которой принимается за действительное, т. е. максимально приближенное к истинному.

На точность результата могут оказать влияние организация и методика проведения оценки; качество построения структурной схемы показателей качества, число показателей качества, способы определения оценок, характер взаимоотношений между экспертами и т.д.

Таким образом, на точность экспертной оценки влияет множество объективных (зависящих от методики оценки) и субъективных (зависящих от эксперта) факторов, вследствие чего возникают погрешности оценки, имеющие систематическую и случайную составляющие.

Систематическая погрешность – постоянно повторяемая часть погрешности. Основной причиной возникновения ее является недостаточная или неправильная информированность экспертов. Снизить ее можно путем ознакомления эксперта с необходимой информацией перед началом экспертизы или путем проведения инструктажа, а также обсуждения, в ходе которого эксперт получает дополнительную информацию от специалистов-аналитиков или других экспертов. Кроме того, поскольку систематическая погрешность эксперта является случайной для группы экспертов, то усреднение оценок группы позволяет повысить точность оценки качества. Систематическую погрешность можно оценивать степенью отклонения от среднего мнения экспертной группы.

Случайная погрешность зависит от психолого-физиологических особенностей эксперта (собранности, уверенности в правоте, внимательности, других личных качеств) и снижается при многократных повторениях оценок. Установить ее величину можно по воспроизводимости результатов.

Различают следующие виды статистических оценок:

· оценка по отклонению от среднего мнения экспертной группы;

· оценка объективности эксперта.

Оценка по отклонению от среднего мнения экспертной группы оценка, основанная на предпосылке, что действительным значением групповой экспертной оценки является средняя оценка экспертной группы. Поэтому чем меньше отклонение индивидуальной экспертной оценки от групповой, тем более высоким признается качество эксперта давшего эту оценку.

Индивидуальные экспертные оценки могут быть двух типов:

· ранжирование экспертом оцениваемых величин (в порядке убывания или возрастания);

· определение экспертом числовых значений оцениваемых величин (например, при определении коэффициентов весомости показателей качества каждому коэффициенту эксперты присваивают определенные числовые значения).

Оценка по отклонению от среднего мнения экспертной группы может быть выражена через совокупность абсолютных отклонений (Д і) , рассчитываемых как разница между средней групповой оценкой (Х с.г) и индивидуальной оценкой (Х і ):

Д і = Х c .г – Х і . .

Чем больше Д і , тем выше отклонение индивидуального мнения эксперта от среднего мнения экспертной группы.

Оценка объективности (беспристрастности) эксперта – оценка соблюдения экспертом принципа объективности, его способности к беспристрастной оценке конкретных образцов товаров. Эта очень важная характеристика качества эксперта существенно влияет на точность результатов групповой экспертной оценки. Статистические методы непосредственной оценки объективности экспертов не разработаны, поэтому на практике довольствуются косвенной оценкой по отклонению от среднего мнения экспертов.

Тестовые оценки оценки с помощью тестирования психолого-физиологических особенностей экспертов. Данные оценки предназначены для оценивания объективности, квалиметрической и профессиональной компетентности эксперта. Достоинством этих оценок является возможность оценить личные качества эксперта, для чего другие методы и виды оценок неприемлемы. Недостаток их заключается в том, что полученные при тестировании результаты невозможно сравнить с данными, полученными каким-либо объективным методом.

При проведении тестовых оценок к тестам предъявляются следующие требования:

· понимание испытуемым экспертом постановки тестовой задачи и условий, которым должно отвечать ее решение;

· вероятность случайного угадывания решения задачи должна быть близка к нулю;

· тестовая задача должна иметь точное решение;

· обоснование близости тестовой задачи и тех реальных задач, которые приходится решать эксперту при оценке качества продукции.

Разновидностями тестовых оценок являются:

· оценка воспроизводимости результатов;

· квалиметрической компетентности эксперта;

· объективности корректирования своих оценок.

Оценка воспроизводимости результата – оценка степени близости индивидуальных оценок эксперта, проведенных через определенные промежутки времени. Обычно применяется в случаях, когда качество экспертов оценивается в несколько туров, при этом сравниваются оценки одного и того же автора в разных турах. Наиболее часто оценка воспроизводимости результатов применяется при органолептическом анализе пищевых продуктов.

Следует учесть, что промежуток времени между турами должен быть невелик, чтобы исключить влияние возможной новой информации, изменяющей его суждения, но в то же время достаточен, чтобы эксперт забыл данные оценки в предыдущем туре.

Если проводится ранжировка показателей качества, то оценка воспроизводимости результатов рассчитывается по формуле

где j -го эксперта; R j – коэффициентов ранговой корреляции для j -го эксперта, определяется по формуле

где d ij – разность между рангами, присвоенными i- му показателю качества j -м экспертом в первом и втором турах опроса; n – количество объектов ранжирования.

Если же эксперты вычисляют численные значения коэффициентов весомости, то оценка воспроизводимости результатов рассчитывается по формуле

где коэффициент воспроизводимости результатов j -го эксперта; ρ j – расстояние от среднего мнения группы для j -го эксперта, рассчитывается по формуле

где M ij * и M ij ** значения i -го коэффициента весомости назначенные j -м экспертом соответственно в первом и втором турах.

Коэффициент воспроизводимости результатов эксперта может изменяться в интервале от 0 до 10. К экспертизе качества продукции рекомендуется допускать экспертов с воспроизводимостью результатов 6 и выше.

Оценка квалиметрической компетентности эксперта – оценка теоретических знаний методов оценки качества и умения их применять. Оценка теоретической подготовки эксперта может проводиться путем устного или письменного контроля знаний с использованием тестов в определенной области знаний. Несколько сложнее обстоит дело с проверкой умения, которое подразделяют на три типа:

· умение использовать разные типы оценочных шкал;

· умение определять субъективные вероятности;

· умение различать достаточное число градаций оцениваемого свойства.

Умение использовать разные типы оценочных шкал. Шкала – это упорядоченный ряд отметок, соответствующий соотношению последовательных значений измеряемых величин. В квалиметрии шкала является средством адекватного сопоставления и определения численных значений отдельных свойств и качеств различных объектов. Практически используют следующие виды квалиметрических шкал: шкалу наименований, шкалу порядка, шкалу интервалов, шкалу отношений и шкалу абсолютных значений.

Шкала наименований используется в случаях, когда несколько неизвестных размеров необходимо сопоставить с одним и определить, какие из них равны размеру, выбранному за базу для сравнения, а какие нет. По шкале наименований классифицируют размеры по признаку эквивалентности, тождества, равенства. Такое измерение является наиболее простым, но наименее информативным. При этом не определяется, какой из неодинаковых размеров больше или меньше размера, принятого за базовый, т.е. порядок возрастания или уменьшения размеров не устанавливается. Измерение заключается только в определении одинаковости (равенства) или отличия (неравенства) того или иного размера от заранее определенного значения. Следовательно, определяющие отношения между измеряемыми размерами таковы: равны или не равны, т.е. в символах = или ≠.

Математическое выражение сущности измерений по шкале наименований можно записать так:

Р i = Р j или Р i ≠ Р j ,

где Р i – размер, с которым сравнивают (базовый размер); Р j j -й размер из сравниваемых размеров (j = 1,2,3, … , n ); n – число сравниваемых размеров.

При сопоставлении и измерении размеров по шкале наименований осуществляется, например, контроль и оценка качества чего-либо по альтернативному принципу: годен – не годен; подходит – не подходит; соответствует – не соответствует и т.п.

Шкала порядка – это последовательный ряд значений, дающий систематизированное представление о простейших соотношениях величин сопоставляемых размеров свойств, признаков или качеств в целом оцениваемых объектов.

При попарном сопоставлении всех измеряемых размеров устанавливают, какой размер больше или меньше другого, какой лучше или хуже другого. Если имеются одинаковые размеры, то это соотношение также определяется. Далее установленные соотношения размеров ранжируются в порядке возрастания и/или убывания (уменьшения) их величин. Сами величины при этом остаются неопределенными. Полученный в результате ранжирования ряд значений является шкалой порядка возрастающей или убывающей последовательности.

По шкалам порядка значения размеров могут быть классифицированы (оценены) не только по критерию «одинаковы или нет», но и по соотношению, что «больше или меньше» другого или «что лучше, а что хуже» другого.

Математическим выражением соотношений попарно сопоставляемых размеров является:

Р i = Р j или Р i ≠ Р j или Р i > Р j или Р i < Р j.

В результате сопоставления размеров Р i и Р j определяют, какой размер больше или меньше другого, а также какие размеры имеют одинаковые значения, т.е. по шкале порядка определяют следующие соотношения: равно (=), не равно (≠), больше (>), меньше (<).

Недостатком измерений по шкалам порядка можно считать то, что получаемые результаты в виде ранжированного ряда наименее информативны. В частности, при таком измерении нет возможности определить, на сколько один размер больше или меньше другого, лучше или хуже другого. Однако главным преимуществом измерений с использованием шкал порядка является то, что и их помощью инструментально неизмеряемые величины все же можно оценить (измерить) количественно. К измеряемым по шкалам порядка относятся такие свойства объектов, как вкус, запах, привлекательность, эстетичность, комфортабельность и др. По шкале порядка часто производят и общие экспертные оценки качества нескольких сопоставляемых объектов.

Шкала интервалов используется в случаях, когда нет возможности измерить сами размеры наблюдаемых величин, но возможно (или имеется необходимость) измерить только отличия (разницы) между познаваемыми сопоставлением размерами.

На измерительной шкале интервалов фиксируются отличия сопоставляемых размеров. Эта форма отображения величин измеряемого является более совершенной, так как на шкале интервалов имеются условные, но вполне определенные единицы измерений, что позволяет количественно (численно) охарактеризовать соотношение исследуемых размеров.

Математическая запись сравнения между собой двух однородных размеров по их разнице имеет вид:

ΔР i,j = Р i – Р j .

По шкале интервалов определяют такие соотношения размеров, как равно (=), не равно (≠), больше (>), меньше (<), сумма (+), разница ().

Классическим примером измерений по шкале интервалов является измерение температур по шкале Цельсия. По шкале интервалов невозможно определить, во сколько раз один размер больше или меньше другого.

Шкала отношений – это измерительная шкала, на которой отсчитывается (определяется) численное значение величины q i как математического отношения измеряемого размера Р i к другому известному размеру, принимаемому за единицу измерений [Р].

Любое измерение по шкале отношений предполагает сравнение неизвестного размера с известным и выражение первого через второй в кратном или дольном отношении.

Математическая запись измерения по шкале отношений имеет вид:

где i = 1, 2, 3, … , n – это номер измеряемого размера.

Шкала отношений – это шкала интервалов, в которой определен нулевой элемент – начало отсчета, а также размер (масштаб) единицы измерений [Р].

По шкале отношений определяются такие значения измеряемых размеров, как: равно (=), не равно (≠), больше (>), меньше (<), сумма (+), разница (), умножение (×), деление (:). Следовательно, с относительными величинами измеряемых размеров можно проводить многие логические и все арифметические действия.

Шкала отношений наиболее приемлема для измерений большинства показателей качества, особенно для таких численных характеристик, как геометрические размеры объектов, их плотность, сила, напряжение и прочих.

Шкала абсолютных величин используется в случаях, когда величина измеряется напрямую. Например, непосредственно подсчитывается число дефектов в изделии. Количество единиц производственной продукции и т.п. При таких измерениях на измерительной шкале отмечаются абсолютные количественные значения измеряемого. Такая шкала абсолютных значений обладает теми же свойствами, что и шкала отношений, с той лишь разницей, что величины, обозначенные на этой шкале, имеют абсолютные, а не относительные значения.

Результаты измерений по шкале абсолютных величин имеют наибольшую достоверность, информативность и чувствительность к неточным измерениям.

Шкалы интервалов, отношений и абсолютных величин называются метрическими, так как при их построении используются меры, т.е. размеры, принятые в качестве единиц измерений.

Характеристики, параметры или характеристики свойств объектов, измеряемые по шкале наименований или по шкале порядка, являются не количественными, а качественными , т.е. неопределенными по их истинной величине и по величине различий между ними. Размер, определенный по любой из метрических шкал, является количественной величиной, и сами эти шкалы являются количественными .

Квалиметрические шкалы, их определяющие отношения, измеряемые ими типы характеристик качества, а также некоторые примеры измеряемого приведены в табл. 4.1.

Каждая из квалиметрических шкал имеет свое значение и свою область применения, и поэтому они чаще всего не взаимозаменяемы при решении той или иной экспертной задачи. Умение определять субъективные вероятности – способность эксперта оценивать вероятность наступления определенных событий. Эксперты, которые не обладают такой способностью, не должны привлекаться к экспертизам, связанным с прогнозированием.

Умение определять субъективные вероятности при вынесении некоторых видов оценок. Например, при определении коэффициентов весомости некоторых событий эксперту иногда приходится использовать понятие субъективности вероятности их наступления. Зачастую прибегают к специальным тестам, с помощью которых можно оценить умение кандидата в эксперты точно определять субъективные вероятности.

Умение различать достаточное число градаций оцениваемого свойства – способность эксперта улавливать различия в интенсивности проявления каждого свойства. Эта способность в значительной мере обусловлена чувствительностью эксперта к самым незначительным изменениям свойств и показателей объектов экспертизы. Например, при органолептическом анализе испытателей проверяют на умение выявлять разницу во вкусах, запахах, оттенка цвета и др. От способности эксперта различать градации оцениваемого свойства зависит также точность индивидуальных и групповой экспертных оценок, поэтому тестовые испытания по выявлению указанной способности должны помочь отобрать в экспертную группу специалистов высокого качества.

Таблица 4.1 . Виды квалиметрических шкал

ЦЕЛИ ЗАНЯТИЯ: 1) изучение методов количественной оценки качества экспертов при формировании экспертной группы;

2) использование методов статистической оценки качества экспертов при создании экспертной группы, предназначенной для оценки качества конкретного изделия.

1.ОБЩИЕ ПОЛОЖЕНИЯ

Одним из наиболее важных вопросов, которые приходится решать в процессе экспертной оценки качества продукции, является подбор экспертов. Так же как в метрологии точность результата измерения зависит от точности прибора, которым производится это измерение, так и объективность экспертной оценки, ее точность зависят в основном от квалификации эксперта, его способности к аналитическому мышлению, синтетическому обобщению, от его кругозора, эрудиции, психофизиологических способностей и т.д.

В настоящее время на практике для количественной оценки качества экспертов используются следующие методы:

  1. Эвристические, при которых значение оценок определяются человеком; методы эвристической оценки основаны на том, что представление, сложившееся о данном эксперте у окружающих (или у него самого), достаточно правильно отражает его истинное качество; эвристические оценки включают: самооценку, взаимооценку, оценку эксперта членами рабочей группы.
  2. Статические, при которых значение оценок получаются в результате обработки суждения экспертов об оцениваемой продукции.
  3. Тестовые, при которых значения оценок получаются в результате специальных испытаний, основанных на решении специально подобранных тестовых задач.
  4. Документальные, при которых значения оценок получаются на основе анализа документальных данных об экспертах.
  5. Комбинированные, при которых значения оценок получаются с помощью любой совокупности перечисленных выше методов.

Наиболее обоснованными в настоящее время являются статистические методы оценки качества экспертов, поэтому рассмотрим их более подробно.

К методам статической оценки относят оценку по отклонению от среднего мнения экспертной группы Кос и оценку воспроизводимости результата Квр, которые могут быть получены после обработки результатов специальных опросов, предшествующих операции формировании экспертной группы.

В основе первого метода лежит посылка, что истинным значением определяемой экспертами величины (свойства), является значение средней оценки экспертной группы. Чем меньше отклонение значения индивидуальной оценки, назначенной экспертом, от групповой средней оценки, тем выше качество этого эксперта, которое может быть учтено путем присвоения в результате каждому эксперту соответствующего «веса» или весового коэффициента.

В том случае, когда эксперт определяет численные значения оцениваемых свойств (в баллах, долях единицы или ппроцентах), предлагается использовать в качестве оценки эксперта расстояние между «средним» рядом значений оценок и значениями оценок назначенными данным экспертом. Например:

при этом n

j=1/2А Кi - Кij

где Кi- среднее значение i- той оцениваемой величины (свойства);

Кij- значение i- той величины (свойства), назначенное j -тым экспертом; n

В основе второго метода лежит посылка, что высоким может считаться качество такого эксперта, для которого свойственна воспроизводимость назначаемых значений оценок, т.е. значения оценок одного и того же объекта в нескольких турах должны быть достаточно близкими. В этом случае можно говорить о стабильности его мнения. Способы оценки качества эксперта по воспроизводимости результата аналогичны способам оценки по отклонению от среднего мнения.

В том случае, когда эксперты ранжируют оцениваемые величины (свойства), для количественного выражения их качества или согласованности, чаще всего на практике используется коэффициент конкордации, который вычисляется следующим образом:

m2 (n3 - n) - m Tj

где Si - сумма рангов, присвоенных m экспертами i-тому фактору;

S - среднее значение сумм рангов;

Величины Si и S определяются отношениями:

Si= Кij ; S= Si / n

где j - номер эксперта;

i - номер оцениваемого фактора.

Величина Tj определяется из выражения:

Tj= (t3jl – tjl),

где tjl - число одинаковых рангов 1-го вида в оценках j -того эксперта;

Lj -количество групп факторов с совпавшими рангами в оценках j -того эксперта.

Коэффициент конкордации изменяется в пределах от нуля до единицы и его значение, равное единице, соответствует полной согласованности мнений экспертов. Обычно согласованность мнений экспертов считается достаточной при W >0,5.

Согласованность мнений экспертов может быть случайной или неслучайной. В качестве количественной оценки степени этой случайности используется уровень значимости коэффициента конкордации. Этот уровень находится из таблицы на основе данных о числе степеней свободы n=1 и величины 2 (критерий Пирсона).

Величина 2 определяется по формуле:

mn (n +1) - 1 Tj

Определенный таким образом уровень значимости коэффициента конкордации дает значение вероятности случайного совпадения мнений экспертов, т.е. достоверность оценок. Если согласованность мнений экспертов высокая и неслучайная, то данная экспертная группа может быть принята за основу для экспертной оценки качества продукции. Если же согласованность мнений недостаточная (W<0,5), то анализируя оценки отдельных экспертов, выделяют эксперта (экспертов), имеющего наиболее отличающиеся оценки от общей совокупности оценок других экспертов и подсчитывают значение коэффициента конкордации опять. Эту операцию повторяют до тех пор, пока не будет достигнута приемлемая согласованность экспертных оценок. При этом рекомендуется, чтобы количество оставшихся экспертов было не менее 2/3 от первоначального состава экспертной группы. В противном случае требуется заново сформировать экспертную группу. Для решения большинства задач по экспертной оценке качества продукции, оптимальными могут считаться экспертные группы, включающие от 7 до 20 экспертов.

II Самостоятельная работа.

Задание 1. Для заданного аналога оцениваемого изделия, произвести экспертную оценку эргомических свойств, в соответствии с разработанной иерархической структурой свойств этого изделия (см. практическое занятие №2). Определить численные значения соответствующих эргономических показателей, руководствуясь следующей оценочной шкалой:

Произвести необходимую статистическую обработку полученных данных с целью оценки качества каждого эксперта, участвующего в эксперементе. Результаты выполнения задания рекомендуется представить в виде следующей таблицы:

Число совпавших оценок

Максимальное отклонение

Задание 2. Используя экспресс-метод экспертной оценки качества, произвести ранжирование ряда предложенных изделий (3…5 шт.), аналогичных оцениваемому изделию, в зависимости от уровня их качества произвести необходимую статистическую обработку полученных данных с целью оценки качества каждого эксперта, участвующего в эксперементе. Результаты выполнения задания рекомендуется представить в виде следующей таблицы:

Макси-мальное откло-нение

Сумма отклоне-ний

Число совпавших оценок

Обобщен-ная оценка (средний балл)

На основном этапе, предназначенном для получения результатов экспертных оценок, применяются две подгруппы методов: 1) экс­пертной оценки характеристик товаров и 2) опроса экспертов для вы­явления их суждений и мнений.

Методы экспертной оценки характеристик товаров. Поскольку одним из оснований для проведения экспертизы является невозможность или неэкономичность применения объективных методов оценки (изме-


рительного, регистрационного, расчетного), результаты экспертных оце­нок, отражающих суждения и мнения экспертов, обычно выражаются в форме описаний или условных единиц (баллов, рангов и т. п.). В связи с этим наиболее распространенной сферой применения методов эксперт­ной оценки товаров являются такие подвиды товароведной экспертизы, как идентификационная экспертиза и экспертиза по качеству. Количест­венная и документальная экспертизы могут быть проведены и объектив­ными методами путем использования средств измерений или пересчета, а также методом сравнительного анализа документов.

Идентификационная экспертиза и экспертиза по качеству осуществ­ляются путем определения показателей качества. Определение экспер­тами количественной характеристики показателей без применения объ­ективных методов основывается на мыслительном исследовании этих показателей с использованием шкал порядка или наименований, а в не­которых случаях - шкал разницы и отношений. При этом эксперты мо­гут оценивать единичные и/или комплексные показатели качества, при­меняя дифференцированный и комплексный методы.

Методы экспертной оценки показателей качества товаров - это методы определения действительных значений единичных и ком­плексных показателей качества.

Данные методы предназначены для определения значений показа­телей качества расчетным или эвристическим путем в случаях, когда применение измерительных методов невозможно или неэкономично из-за чрезмерных расходов или длительного времени испытаний. На­пример, при определении вкуса и запаха пищевых продуктов исполь­зуются только органолептические методы. Измерительные методы не дают точной и надежной оценки, несмотря на повышенные затраты.



Для дифференциальной и комплексной оценки образцов, значи­тельно отличающихся по качеству, рекомендуется определять значе­ние единичного показателя Р дифференциальным методом.


Дифференциальный метод оценки показателей качества - метод, основанный на сравнении действительных значений единич­ных показателей с базовыми значениями тех же показателей:


§ 5. Экспертные методы

При дифференциальном методе фактически определяется уровень качества, если за базовое значение выбрано регламентированное нор­мативным документом значение показателя качества или базовый об­разец. При этом эксперт должен дать ответ: уровень качества по ис­следуемому показателю выше или ниже либо равен базовому образцу.

Сфера применения дифференциального метода выходит далеко за рамки только экспертной оценки. Он находит широкое применение и в научных исследованиях, и при оценке специалистами конкуренто­способности товаров. Действительные значения единичных показате­лей могут быть получены измерительным методом, а затем рассчита­ны и проанализированы специалистами или экспертами.

Вместе с тем использование данного метода при экспертной оценке имеет определенные особенности.

Оценка единичных показателей качества экспертами начинается с определения допустимых интервалов их измерения (р. макс: /> f MHH) р. макс - наилучшее значение показателя, превышение которого нецелесообразно или невозможно. Принципы назначения максимально допустимого зна­чения показателя (р. макс) зависят от целей оценки качества. При этом не­обходимо, чтобы для всех показателей этот принцип был единым.

Повышение надежности экспертных оценок достигается путем членения сложных операций на простые, которые составляют много­ступенчатую процедуру оценки допустимых значений показателя. Переход к каждой последующей ступени совершается после выработ­ки согласованных решений на предыдущей ступени.

Экспертная процедура определения допустимых значений показа­телей качества состоит из следующих операций:

Выдача экспертам анкет пояснительной записки, в которой пере­
числены показатели качества и описаны принципы выбора допус­
тимых значений показателей;

Заполнение экспертами анкет и указание конкретных моделей про­
дукции, значения которых они считают предельно допустимыми;

Ознакомление каждого эксперта с оценками, назначенными дру­
гими экспертами, и их обсуждение;

Проведение второго (иногда третьего и четвертого) тура анкети­
рования;

» усреднение результатов оценки.


При значительном разбросе мнений проводится дополнительный тур голосования. Значение показателя принимается за максимальное, если за него подано не менее 70% голосов. При невыполнении этого условия за максимально допустимое значение принимается среднее из 50% наибольших значений р. макс, за минимальное допустимое значе­ние - среднее из 50% наименьших значений Р г мин. Полученные зна­чения используются экспертами при определении оценок показателей качества К.

Для установления экспертами вида зависимостей (/) между зна­чениями показателей P t и их оценками К,- нередко используется ме­тод главных точек. Необходимость его применения обусловлена тем, что разделение процедуры оценки на несколько этапов упро­щает работу эксперта и позволяет ему дать оценки некоторым ха­рактерным точкам, исходя из которых можно построить модель искомой величины.

Комплексный метод оценки показателей качества - метод, основанный на установлении наиболее значимых для оценки качества единичных показателей, определении их действительного и средне­взвешенного значений комплексного показателя с учетом коэффици­ентов весомости.

Расчет комплексного показателя качества (Q) осуществляется по формуле

где Р\,Рг, ■■■iPn - действительные значения показателей качества;

К в ь К„2, ..., К в „ - коэффициенты весомости этих показателей.

Применение комплексного метода требует обоснованного выбора номенклатуры показателей качества товаров.

Глава 4. Методы товарной экспертизы]


§ 5. Экспертные методы

Эти показатели подразделяются на оценочные, идентификацион­ные и ограничительные.

Оценочные показатели - показатели потребительских свойств, обладающие способностью удовлетворять основные потребности.

Данные показатели используют при необходимости оценки уров­ня качества и конкурентоспособности товаров, а также для позицио­нирования их на определенном сегменте рынка и проведении товаро­ведной экспертизы по качеству.

Идентификационные показатели - показатели потребитель­ских свойств, предназначенные для систематизации товаров и отнесе­ния их к определенным классификационным группировкам.

Такие показатели чаще применяются при проведении идентифи­кационной экспертизы.

Ограничительные показатели - показатели, предназначенные для ограничения установленных требований.

Выбор этих показателей определяется целями товарной эксперти­зы, а ограничения устанавливаются соответствующими нормативны­ми методами. Достаточно часто действительные значения ограничи­тельных показателей качества получают измерительными методами, а в задачи экспертов входит лишь сравнение результатов испытаний с установленными требованиями. При этом коэффициенты весомости комплекса испытуемых показателей не учитываются.

Ограничительные показатели находят широкое применение при обязательной сертификации по показателям безопасности, а также при санитарно-эпидемиологической, ветеринарной, фитосанитарной и экологической экспертизах. В ряде случаев они могут применяться и з таких разновидностях товароведной экспертизы, как идентификаци-энная и по качеству. Например, при установлении принадлежности шкогольного напитка к водке используют следующие ограничитель­ные показатели: минимально допустимое содержание этилового спирта и максимально допустимое содержание сивушных масел и ме-гилового спирта.

Выбор номенклатуры показателей качества товаров и их эксперт-гая оценка могут осуществляться двумя методами: экспресс-методом i методом движения по уровням без подготовки и с подготовкой.

Экспресс-методы комплексной оценки качества образцов това->ов основаны на определении комплексного показателя качества путем


анализа значений отдельных единичных показателей и внешнего вида без предварительной их оценки и с учетом коэффициентов весомости.

При использовании этих методов необходимо учесть, что предель­ным количеством оцениваемых показателей даже для высококвалифи­цированного эксперта является 7-9 показателей, расположенных на од­ном уровне иерархии и составляющих достаточно однородную группу. Кроме того, эксперты должны учитывать важность отдельных показа­телей с помощью коэффициентов весомости, взаимосвязь между ними, а также рассматривать качество товара как систему.

Метод движения по уровням без подготовки представляет со­бой комплекс операций, осуществляемых последовательно, с посте­пенным повышением уровня. При этом анализ начинается от нижне­го уровня дерева показателей. С учетом значения показателей нижнего уровня эксперт дает оценку показателям вышележащего уровня. Эти операции повторяются с повышением уровня до тех пор, пока не будет достигнут верхний уровень - комплексная (обобщенная) оценка качества.

Метод движения по уровням с подготовкой основан на предва­рительном определении экспертами коэффициентов весомости пока­зателей качества и их оценок. При назначении комплексных оценок эксперту известны средние значения коэффициентов весомости и оценки единичных показателей. Процедура определения комплекс­ных показателей аналогична процедуре по методу движения по уров­ням без подготовки.

Метод главных точек в зависимости от их числа имеет несколь­ко разновидностей.

Метод трех главных точек - метод, основанный на разделении значений показателей Р, на максимальное, минимальное и среднее значения и определении значений оценок К,- в этих точках. Интервал шкалы между максимальной и минимальной точками задается заранее (шкалы 0-1 или 0-10). В задачу эксперта входит также определение тенденции зависимости в интервале между главными точками и по­строение графика. После этого от графической зависимости можно перейти к аналитической формуле для расчета оценок показателя ка­чества К,. Данный метод позволяет разработать лишь приближенную модель оценки К,.

Глава 4. Методы товарной экспертизы


§ 5. Экспертные методы

Метод семи главных точек - метод оценки по семибалльной шка­ле определения показателей, значения которых установлены экспери­ментальным или расчетным путем, а также органолептическим методом.

Семибалльная шкала является равномерной, т. е. при переходе от одного класса качества к другому оценка меняется на один балл. Такие шкалы нашли широкое применение, особенно при органолептической оценке. Для получения более точных результатов следует перейти к определению вида зависимости между оценками и баллами.

Для облегчения работы эксперта в пояснительной записке к анке­те приводят пять графиков. Эксперт выбирает кривую (или комбина­цию кривых), которая наилучшим образом, по его мнению, отражает характер зависимости/ Затем каждому классу качества назначается оценка в соответствии с характером зависимости и значениями пока­зателей качества. При этом целесообразно пользоваться числами в интервале 0-10, кратными 0,5, причем класс «наивысшее качество» получает оценку 10.

Таким образом, график, построенный экспертом, характеризует зависимость между абсолютными значениями показателей Р, и их оценками К,-, а для показателей, оцениваемых органолептическими методами, - между классами качества и их оценками.

В заключение проводятся обсуждение полученных результатов, их обработка и анализ. Для показателей, определяемых измерительным и расчетным методами, желательно дать аналитическое описание кривых, что позволяет рассчитать оценку для любых значений показателей.

Применение метода главных точек дает возможность осуществлять группировку и классификацию показателей по видам зависимости.

Методы опроса

Методы опроса - методы, основанные на проведении анкетного эпроса группы экспертов с последующим анализом и обработкой по-тученной от них информации.

Целью этих методов является определение индивидуальной и групповой экспертной оценки для принятия окончательных решений.

Основанием для выбора этих методов служит необходимость тринятия сложных решений в ситуации неопределенности или со-


ставление научно обоснованного прогноза, требующего участия группы независимых и компетентных специалистов в узкой области или многих областях знаний (например, знаний однородной группы товаров или всех продовольственных либо непродовольственных то­варов). Важнейшими инструментами методов опроса служат его про­цедура и анкеты.

Разработка процедуры опроса проводится после формулирова­ния целей и задач, формирования группы аналитиков. Для этого со­ставляются анкеты (открытые и закрытые) и определяются методы опроса (индивидуальные и групповые, очные и заочные). Существуют определенные методики составления анкет, которые целесообразно учитывать при их разработке.

При разработке анкет группа аналитиков должна предусмотреть уровень детализации проблемы, который определяется спецификой и целями экспертизы. От уровня детализации зависит достоверность ре­зультатов экспертизы, причем с ростом степени детализации согласо­ванность экспертных оценок, как правило, увеличивается. Однако из­лишняя детализация проблемы может привести и к снижению надежности информации, полученной от экспертов.

Детализация проблемы осуществляется путем включения в анкету тестов (закрытых вопросов) с элементами готовых ответов или без от­ветов (открытых вопросов). Элементы готовых ответов в дальнейшем позволяют облегчить обобщение и формализацию ответов экспертов, но и ограничивают информативность оценки одним или несколькими альтернативными ответами, при этом возникает опасность навязывания эксперту ответов. При включении в анкету открытых вопросов эксперт может дать ответ в любой форме и с любым объемом информации. В этом случае появляется возможность обнаружения с помощью экс­пертов новых, порой неожиданных для аналитиков аспектов проблемы. Конкретный вопрос с определенным набором готовых альтернатив­ных ответов называется признаком анкеты. Набор ответов может быть качественного и количественного характера. При качественном характе­ре набора ответов задача эксперта заключается в выборе из предлагае­мых элементов ответов, которые, по его мнению, наиболее полно отра­жают суть проблемы по данному вопросу. При количественном характере набора ответам на вопросы присваивают числовые значения.

Глава 4. Методы товарной экспертизы


§ 5. Экспертные методы


При подборе признаков, которые желательно включить в анкету, нельзя допускать возможность двойного толкования вопросов. Поэтому полезно проверить анкету самими аналитиками. Если распределение су­ждений по некоторому признаку имеет значительное стандартное откло­нение, можно предположить, что данный признак двусмыслен.

Все вопросы в анкете можно разделить в зависимости от их со­держания на три группы:

Объективные анкетные данные об эксперте - возраст, образование,
профессия, стаж работы, научное звание, узкая специализация;

Характеристики, позволяющие оценить мотивы, которыми руко­
водствовался эксперт при оценке исследуемой проблемы;

Основные вопросы, касающиеся существа исследуемой проблемы.
В зависимости от широты охвата методы опроса экспертов подраз­
деляются на индивидуальные и групповые, а от наличия или отсутст­
вия обсуждения результатов оценки в экспертной группе, его характе­
ра, обоснования оценок, личных контактов и опрашиваемых субъектов
различаются несколько способов экспертного опроса (рис. 17).

Выбор того или иного способа проведения экспертного опроса определяется целями экспертизы, затратами на ее проведение и ожи­даемыми результатами, а критериями выбора служат объективность, информированность и трудоемкость.

Критерий объективности. Хотя требование объективности эксперта является одним из основных, однако на практике на экспертов может быть оказано определенное влияние. Оно может носить конформный или авторитарный характер и играет отрицательную роль, так как мнение и оценка эксперта формируются под влиянием факторов, не относящихся к свойствам товаров или других объектов экспертизы.

В связи с этим при выборе способов проведения опросов экспертов предпочтение следует отдавать тем из них, при которых конформное или авторитарное влияние проявляется в меньшей степени. К таким спосо­бам относятся, например, анонимное обоснование оценок, отсутствие контактов между экспертами, закрытое голосование. При вынесении коллективной экспертной оценки обычно не происходит беспристраст­ного и последовательного анализа проблем. Оценка основана на ком­промиссе между суждениями отдельных экспертов, поэтому способ кол-пективной экспертной оценки редко применяется при опросе экспертов.


Рис. 17. Классификация способов экспертного опроса

Глава 4. Методы товарной экспертизы


§ 5. Экспертные методы

Критерий информированности относится к важнейшим факто­рам, влияющим на качество эксперта, а также на надежность прини­маемых им оценок. Повышению информированности экспертов спо­собствует их взаимное обогащение в ходе обсуждения оценок. Логические доводы других экспертов, сообщаемая при этом дополни­тельная информация, ранее неизвестная другим экспертам, позволяют повысить уровень информированности, за счет чего эксперт может скорректировать свою оценку.

Исходя из этого, наиболее удачными по критерию информирован­ности являются способы, содержащие информацию об оценках других экспертов. Существуют также личные контакты между экспертами, происходит дискуссионное обсуждение оценок и персональное обосно­вание их. Поэтому при организации работы постоянных экспертных групп целесообразен обмен информацией, поскольку он способствует слаженной работе экспертов. При создании временных экспертных групп обмен информацией и коллективное обсуждение рекомендуются только в тех случаях, когда проведены оценка и отбор экспертов на объективность корректирования своих суждений (отсутствие конфор­мизма). Во всех случаях при учете критерия информированности экс­пертов не следует забывать о создании условий для их объективности и исключения конформного или авторитарного влияния.

Критерий трудоемкости зависит от количества проводимых опе­раций, их продолжительности и характера. Так, при письменном обос­новании оценок эксперт затрачивает больше времени, чем при устной дискуссии. Эффективность экспертного опроса в значительной степени зависит от способов и техники выявления суждений экспертов.

Способы и техника опроса экспертов. При индивидуальном оп­росе технический работник проводит опрос каждого эксперта, а при групповом - сразу всей группы. Результаты индивидуального опроса после обобщения и соответствующих расчетов могут быть использо­ваны для установления групповых оценок. Однако групповая оценка может быть получена и в результате индивидуального опроса лидера и сублидера экспертной группы.

Индивидуальный опрос каждого эксперта в группе связан с по­вышенной трудоемкостью, значительными затратами времени и раз­бросом суждений, что затрудняет выявление объективной и досто­верной экспертной оценки.


При индивидуальном опросе лидеров и сублидеров экспертной группы и особенно отдельных экспертов затраты времени на опрос меньше, однако вероятность конформизма среди членов группы и проявления авторитарных мнений лидера и сублидера больше.

В зависимости от технических приемов анкетирования индивиду­альный опрос делится на следующие разновидности: интервью, ин­тервью-анкеты, анкетирование и смешанное анкетирование.

Достоинства и недостатки этих способов указаны в табл. 5. Инди­видуальный способ опроса делится на разновидности в зависимости от применяемых технических приемов.

Таблица 5 Достоинства и недостатки разных способов опроса экспертов

Способы и разновид- Достоинства Недостатки
ности опроса
Индивидуальный Возможность выявить Высокие затраты вре-
способ все или большинство мени и критерий трудо-
разновидности по тех- неясных вопросов, емкости. При первич-
ническим приемам: уточнить недостаточно ном опросе эксперт
интервью сформулированные; может задавать нечетко
интервью-анкеты использовать техниче- сформулированные во-
смешанное анкетирова- ские приемы просы, увеличивающие
ние трудозатраты.
анкетирование Возможно снижение
объективности
Групповой способ Сокращение затрат вре- Невозможность ис-
мени экспертов и рабо- пользования техниче-
чей группы, снижение ских приемов
критерия трудоемкости

Интервью - разновидность опроса эксперта для выявления его оценки в ходе свободной, но.проводимой по определенной программе беседы с экспертом.

Интервью-анкета - разновидность опроса эксперта путем по­становки перед ним конкретных вопросов в определенной последова­тельности, задаваемых в форме анкеты.

Глава 4. Методы товарной экспертизы


§ 5. Экспертные методы

Анкетирование - разновидность опроса экспертов с помощью вопросов анкеты, на которые эксперт дает письменные ответы. Чаще всего анкетирование проводится заочным методом без контакта с ра­бочей группой. Для повышения степени информированности эксперта к анкете прилагается пояснительная записка.

Смешанное анкетирование - разновидность опроса эксперта с помощью анкет и дополнительного инструктажа членом рабочей группы. Целью инструктажа являются уточнение деталей, постановка дополнительных вопросов (при необходимости).

По информативности наибольшими возможностями обладают та­кие методы, как интервью, интервью-анкета и смешанное анкетиро­вание, а по объективности - анкетирование. Минимальная объектив­ность свойственна интервью. Однако исходя из разных целей экспертизы, на практике может применяться любой из указанных способов. При этом предпочтение одной из указанных разновидно­стей отдается в следующих случаях:

При отсутствии ограничений времени проведения опроса целесооб­
разно проводить интервью-анкету или смешанное анкетирование;

При значительном числе экспертов и возможности собрать их всех
вместе применяют анкетирование;

При невозможности задать четко сформулированные вопросы,
которые будут поняты всеми экспертами однозначно, а также
при затруднениях эксперта выразить ответы на задаваемые во­
просы в виде числовых оценок применяют смешанное анкети­
рование.

При проведении опроса экспертов необходимо соблюдать общие и специфические требования к условиям опроса. Общие требования к условиям опроса:

Благоприятная психологическая обстановка опроса, способствую­
щая заинтересованности эксперта путем установления благожела­
тельного контакта между опрашиваемым и проводящим опрос;

Исключение возможности сознательного или бессознательного
навязывания эксперту мнения членов рабочей группы или других
экспертов;

Обеспечение уверенности эксперта в том, что выносимые оценки
не будут использованы в неблагоприятных для него целях; в от-


дельных случаях может быть поставлено условие о конфиденци­альности информации об оценках эксперта;

Создание и поддержание оптимальной трудоемкости опроса путем
выполнения экспертами только творческих, наиболее сложных
оценочных операций и передачи вспомогательных расчетных,
графических, других операций техническому персоналу рабочей
группы;

Понимание экспертом задаваемых ему вопросов с помощью необ­
ходимого инструктажа, а в отдельных случаях и предварительно­
го, тренировочного опроса;

Постановка четко сформулированных вопросов, не имеющих дву­
смысленного характера и не требующих больших дополнитель­
ных пояснений;

Использование общепринятых терминов, по мере возможности
стандартизированных, а при их отсутствии разъяснение новых
или неоднозначно применяемых терминов.
Специфические требования:

а) к технике интервьюирования

Предпочтительное использование стандартизированного интервью,

Доверительность начала интервью, располагающая к откровенности,

Быстрота и экономичность при кодировании ответов эксперта
членами рабочей группы;

Провоцирование экспертов на аргументацию своих оценок путем
оспаривания его ответа;

б) к технике анкетирования

обеспечение четкого и однозначного понимания экспертами ха­
рактера выполнения операций путем приложения к каждой анкете
пояснительной записки с определением целей и задач экспертизы,
методов и последовательности выполнения операций;

Единообразие в составлении анкет и пояснительных записок для
облегчения работы с ними;

Случайный характер перечисления свойств, которым эксперт
должен дать числовые оценки, причем эксперты должны быть
предупреждены об этом, в противном случае может иметь место
бессознательное завышение оценок свойств, стоящих в списке
первыми.

Глава 4. Методы товарной экспертизы


§ 5. Экспертные методы

Комбинирование операций по подготовке и проведению опросов экспертов, а также технических операций позволило создать несколь­ко экспертных методов, получивших наибольшее признание и рас­пространение. К ним относятся методы Дельфы, ПАТТЕРН и комби­нированный.

Метод Дельфы (в некоторых источниках - Дельфи) - метод опроса экспертов, основанный на последовательно осуществляемых процедурах, которые направлены на формирование группового мне­ния по процедурам с недостаточной информацией.

Название метода произошло от древнегреческого города Дельфы, где жили оракулы, предсказывающие будущее.

Особенностями метода Дельфы являются отказ от совместной ра­боты экспертов; анонимность оценок; регулирование обратной связи; групповой ответ.

Отказ от совместной работы экспертов и анонимность достигают­ся тем, что каждый эксперт высказывает свое мнение в анкете, без группового обсуждения. Применяются и другие технические приемы индивидуального опроса, например, ответы на вопросы вводятся экс­пертами в компьютер. Регулируемая обратная связь осуществляется за счет проведения нескольких туров опроса, причем результаты каж­дого тура обрабатываются статистическими методами и доводятся до сведения экспертов. Это позволяет уменьшить разброс индивидуаль­ных оценок и получить групповой ответ, правильно отражающий мнение каждого эксперта.

Количество туров (до четырех) зависит от того, насколько быстро удается добиться сближения оценок экспертов в группе.

Анонимность опроса позволяет уменьшить конформное и автори-гарное влияние отдельных доминирующих экспертов, а регулируемая обратная связь уменьшает влияние индивидуальных и групповых ин-гересов. Введение обратной связи также повышает критерий объек-гивности и надежность оценок.

Проведение опроса в несколько туров с информированием экс-дертов о результатах предыдущих этапов работы, после которых каж­дый эксперт должен обосновать свое мнение, позволяет уменьшить солебания в индивидуальных и групповых ответах. Это дает неоспо-жмые преимущества по сравнению с обычным усреднением индиви­дуальных оценок.


При использовании метода Дельфы к процедурам опроса предъ­являются следующие требования:

Поставленные вопросы должны допускать возможность выраже­
ния ответа в виде чисел;

Достаточная информированность экспертов для выставления
оценок;

Наличие обоснований эксперта на каждый из заданных вопросов.
Достоинством рассматриваемого метода является повышение

критерия объективности за счет анонимности ответов экспертов, бла­годаря чему мнение эксперта не искажается вследствие внушения или приспособления к мнениям других экспертов. Кроме того, возрастает и информированность экспертов за счет ознакомления с оценками других экспертов после Окончания очередного тура, а также обосно­вания собственных оценок. Выявление преобладающих мнений по­зволяет сблизить точки зрения разных экспертов, сформировать груп­повое, но не единое, мнение.

Недостатки метода, проявляющиеся на начальном этапе его при­менения, - нестабильность состава экспертных групп, значительные разрывы во времени между турами, нечеткие формулировки вопро­сов, недоучет разной компетентности экспертов, необоснованность выбранного метода усреднения экспертных оценок - были частично устранены путем разработки модификаций этого метода (метод СИИР, Дельфы - Перт и др.). В результате этого метод Дельфы в на­стоящее время стал одним из наиболее применяемых, особенно для целей прогнозирования, а также при изучении ряда экономических и социальных проблем.

При использовании данного метода для целей экспертной оценки качества потребительских товаров проявляются следующие его не­достатки: сложность опроса экспертов и заполнения анкет, трудоем­кость оценки в связи с большим количеством показателей качества (иногда до 20-40) и заполнением нескольких анкет (3-10), громозд­кость пояснительных записок из-за отсутствия прямого контакта ор­ганизатора с экспертами.

Из-за указанных недостатков использование метода Дельфы при экспертной оценке качества товаров затруднено, а в некоторых случа­ях и нецелесообразно. Однако он перспективен для получения груп-

Глава 4. Методы товарной экспертизы


§ 5. Экспертные методы

Повой экспертной оценки и углубленного анализа событий в ситуаци­ях неопределенности.

Метод ПАТТЕРН - метод опроса экспертов, основанный на по­строении иерархической структуры - дерева целей и вынесении ре­шения этих целей после открытого обсуждения.

Название метода складывается из первых букв английских слов, означающих «Помощь планированию посредством количественной оценки технических данных». Метод был разработан в 1962-1964 гт. в американской фирме «Хоннуел» для оценки проектов новых систем вооружения.

Данный метод предусматривает несколько этапов.

/ этап - постановка основной проблемы, требующей решения, и разделение ее на ряд вторичных проблем первого, второго и так далее порядка, которые затем делятся на более узкие задачи. Деление про­должается до тех пор, пока не будут получены простые элементы, ко­торые могут быть оценены экспертами.

В результате такого деления получается иерархическая структура связанных друг с другом основных, вторичных проблем и задач, на­зываемая деревом целей.

II этап - определение с помощью экспертов коэффициентов ве­сомости (или значимости) каждой задачи относительно основной це­ли, при этом эксперты выносят решения после открытого обсуждения в экспертной группе.

Такое открытое обсуждение наряду с достоинством (взаимодейст­вие экспертов, стремящихся к принятию положительного решения) имеет и недостаток из-за конформизма, т. е. искажения действитель­ного мнения экспертов за счет внушения или приспособления к мне­нию большинства.

/// этап - применение компьютеров для обработки полученных данных и их анализа.

Достоинством метода ПАТТЕРН по сравнению с методом Дельфы является упрощение процедуры экспертного опроса. Однако метод имеет и ряд недостатков: отсутствие обоснований оптимального чис­ла членов экспертной группы, а также методики отбора в экспертную группу компетентных специалистов; обработка результатов опроса без учета различий в качестве отдельных экспертов; отсутствие барь-


еров для проявления конформизма экспертов; недостаточная разра­ботка и неопределенность принципов построения дерева целей.

Поскольку методы Дельфы и ПАТТЕРН имеют существенные не­достатки и не отвечают полностью целям экспертной оценки, Э.Л. Райх-ман и Г.Г. Азгальдов предложили комбинированный метод, в котором были использованы положительные особенности других экспертных методов и исключены их недостатки .

Комбинированный метод - метод, основанный на сочетании индивидуальных и коллективных экспертных оценок.

Экспертные оценки и способы измерений.

Оценка эксперта – количественное и/или качественное измерение соответствующего показателя.

Методы получения количественных экспертных оценок

    Непосредственная количественная оценка

Эксперт указывает конкретное числовое значение или диапазон искомого параметра.

    Метод средней точки.

Применяется при большом количестве альтернативных вариантов.

Сначала выбираются наиболее (А) и наименее (Я) предпочтительные альтернативы. Далее – промежуточный вариант – М, оценка которого делит отрезок А – Я пополам.

Методы получения качественных экспертных оценок

    Экспертная классификация (определение принадлежности к группе, сорту, категории – сорт чая)

    Ранжирование альтернатив – упорядочение сравниваемых альтернатив по степени предпочтительности определённого признака.

    Метод экспертных кривых применяется для получении прогнозов на основе анализа динамики показателей, характеризующих объект эксперимента (график, экстраполяция). Для предотвращения ошибок при экстраполяции на основе обобщенного мнения экспертов на графике определяются точки, в которых следует ожидать изменения тенденции развития показателя.

Инструментами вышеперечисленных методов являются качественные и количественные шкалы.

19. Способы оценки качеств экспертов и формирование экспертных комиссий.

Метод суда.

Процедура аналогична судебному заседанию. Часть экспертов – обвиняют, часть – защищают, часть – присяжные, выносящие окончательный вердикт. Экспертные оценки – субъективны, поэтому ключевой вопрос – подбор экспертов.

Оценка качеств эксперта .

Эксперт – специалист, профессионал, оценки и суждения которого лицо, принимающее решение, считает полезным учитывать в процессе принятия решения.

Формирование состава экспертной комиссии эависит от:

Конкретной ситуации принятия решения;

Возможностей организаторов экспертизы привлечь для работы высококвалифицированных специалистов;

Возможностей специалистов принять участие в работе экспертной комиссии.

Не существует общепринятой единой методики оценки качеств эксперта.

Можно опираться на:

Профессиональные знания;

Опыт и эффективность деятельности в составе экспертных комиссий.

Способы оценки качеств эксперта:

    Априорные – не используют информацию о результатах участия эксперта в предыдущих экспертизах (самооценка, взаимная оценка, метод списка экспертов, документационный (анкетный) метод).

    Апостериорные – используют информацию о результатах участия эксперта в предыдущих экспертизах (метод парных сравнений объектов, наиболее предпочтительных для данного эксперта, метод отклонения от результирующей групповой оценки).

    Тестовые – подразумевают проведение специального испытания.

    Тест должен быть специально разработан под конкретные объекты экспертной оценки

    Истинные значения оцениваемых параметров (правильные ответы) не должны быть известны эксперту

    Должна быть разработана шкала для определения точности оценок, даваемых экспертом

    Вероятность случайного угадывания правильной оценки должна быть очень мала.

Использование тестовых методов позволяет оценить такое важное профессиональное качество эксперта как воспроизводимость экспертных оценок. Проводят ряд аналогичных тестов и оценивают полученные результаты. Стабильность оценок говорит о профессиональной компетенции эксперта.