Кёнкен (Kohnken, 1999, личное общение) подчеркивал факт существования фундаментальной проблемы, связанной с лабораторным использованием различительной ценности (между правдивыми и сфабрикованными утверждениями) каждого критерия в лабораторных условиях в качестве показателя его разделительной ценности при оценке в реальной жизни. По мнению Кёнкена, разделительная ценность критерия прочно связана с тем, какое именно событие подлежит оценке. В результате отдельные критерии приобретают огромное значение для оценивания случаев из реальной жизни, хотя в условиях лабораторных исследований они редко подтверждают свою исключительную значимость.
Принимая во внимание трудности, связанные с количеством применяемых критериев, исследователи, изучающие особенности применения процедуры КАУК, прибегают к различным методам, которые позволяют разделять утверждения на правдивые и ложные. В ходе некоторых исследований эксперты по процедуре КАУК проводили разделение по признаку правда-совпадение (см. табл. 5.4). Что же касается большинства других исследований, то хотя утверждения оценивали эксперты по КАУК, разделение их на правдивые и ложные выполнялось с помощью компьютерной программы статистического анализа. Главное отличие состоит в том, что, возможно, эксперты присваивали разным критериям разный вес, тогда как программа компьютерного анализа не располагает таким диапазоном возможностей.
Таким образом, мы можем заключить, что классификация, предложенная экспертами, должно быть, отличалась более высокой точностью. Какой-нибудь один элемент утверждения (будь то неверно истолкованная подробность, необычная деталь, подробное описание запутанного эпизода взаимодействия и т. д.), мог сыграть решающую роль и убедить эксперта. При этом не исключено, что статистическая программа не придала бы этому критерию такого веса. Однако данные имеющихся на сегодня исследований не подтверждают точку зрения о том, что эффективность работы экспертов имеет первостепенный приоритет. Как видно из табл. 5.4, коэффициенты попадания в исследованиях, где классифицированием утверждений занимались эксперты, сопоставимы с коэффициентами точности, установленными в ходе исследований, где разделение утверждений на правдивые и ложные авторы доверили компьютеру.
Надежным способом установления разницы экспертных и компьютерно-аналитических решений в процессе принятия решений является сопоставление в рамках одного исследования классификаций, составленных каждой из сторон. Единственным экспериментом, в котором проводилось такое сравнение, было исследование Фрая, Кнеллера и Манна (Vrij, Kneller & Mann, в печати). Эксперты продемонстрировали более высокий уровень узнавания правды (коэффициент попадания составил 80 и 53 % у экспертов и у компьютера соответственно, см. табл. 5.4), тогда как компьютер оказался более успешным в определении лжи (коэффициент попадания составил 60 и 80 % у экспертов и у компьютера соответственно). Различия в коэффициентах попадания между экспертами и компьютерной программой подтверждают идею о том, что, вынося свой вердикт, эксперты руководствуются не только оценками по КАУК, но и используют ту или иную систему присваивания критериям различного веса. Впрочем, процесс присвоения веса в целом не повышает уровень попадания.
Влияние внешних факторов
Установить природу влияния на свидетельские показания каждого из критериев, представленных в Проверочном листе, чрезвычайно сложно, если вообще возможно. Например, стиль проведения интервью нередко определяет объем информации, которую сообщает свидетель в своем рассказе. Однако это вовсе не означает, что стиль проведения какого-то конкретного интервью непременно отразится на сообщениях того или иного свидетеля. Но даже если это и произойдет, впоследствии мы не сможем установить, в чем именно заключалось это влияние. Иными словами, точно определить влияние каждого конкретного фактора на рассказ свидетеля мы не в силах — мы можем только его оценить. Очевидно, что некоторые из предложенных нами оценок могут оказаться ошибочными. К тому же не исключено, что показания свидетелей подвержены влиянию каких-либо неизвестных нам покуда факторов, которые не были упомянуты в Проверочном листе.
Оценки, полученные с помощью ОВУ, носят субъективный характер
Все, что мы здесь говорили об оценивании утверждений с помощью ОВУ, не оставляет ни малейших сомнений в том, что эта процедура носит субъективный характер. Это значит, что они в значительной степени зависят от того, какую интерпретацию в данном случае предложит тот или иной эксперт. Поэтому очень важно понимать, насколько схожие результаты получают разные эксперты при оценке одних и тех же утверждений. Если бы, проанализировав один и тот же материал, эксперты приходили к разным выводам, применение ОВУ было бы неуместным и, следовательно, неоправданным. Существует два типа соглашений между двумя экспертами, проводящими оценку. Во-первых, эксперты могут прийти к соглашению относительно суммарной оценки по методике КАУК по данному утверждению. Во-вторых, эксперты могут вырабатывать единое мнение по поводу наличия или отсутствия в утверждении каждого из выработанных критериев. Результаты исследований показали, что уровень согласия между экспертами по поводу общего показателя по КАУК, как правило, высок и вполне удовлетворителен. Вместе с тем уровень согласия между экспертами по каждому из критериев зачастую весьма низок[7].
Альтернативный способ оценки надежности заключается в том, чтобы предложить одному и тому же эксперту еще раз оценить утверждение по прошествии некоторого времени и проанализировать уровень сопоставимости этих оценок. Горовиц и его коллеги предложили экспертам проделать такую процедуру. В результате сложилась ситуация, аналогичная той, что была с оценками разных экспертов, — высокий уровень совпадений между оценками одного и того же эксперта наблюдался в тех случаях, когда предметом рассмотрения был общий суммарный показатель по КАУК, но когда исследователи попытались оценить выделенные критерии по отдельности, по некоторым из них уровень согласованности экспертных оценок оказался чрезвычайно низким.
По мнению Хёфера и Кёнкена (Hofer & Kohnken, 1999), такой низкий уровень согласия между экспертами, участвовавшими в исследованиях с применением процедуры КАУК, можно объяснить слабой профессиональной подготовкой экспертов. Они разработали трехнедельную обучающую программу и представили результаты исследования, согласно которым после прохождения трехнедельной подготовки эксперты демонстрировали достаточно высокий уровень согласия, даже при рассмотрении оценок, полученных по отдельным критериям.
Однако до сих пор не было проведено ни одного исследования, направленного на изучение уровня согласия между оценками по ОВУ, — иными словами, которое бы объединяло показатель по КАУК с результатами применения Проверочного листа. Ламерс-Уинкелман (Lamers-Winkelman, 1995) полагает, что вполне вероятно, что далеко не всегда результат будет удовлетворительным. Кён-кен (немецкий профессор, специалист в области судебной психологии, нередко выступающий в Германии в качестве эксперта на судебных разбирательствах по уголовным делам) согласен с Ламерс-Уинкелман и считает, что причиной тому — Проверочный лист. Если в Германии двое экспертов, привлеченных к работе по уголовному делу, расходятся во мнениях по поводу достоверности того или иного утверждения, чаще всего они придерживаются разных точек зрения и относительно влияния внешних факторов на это утверждение (Kohnken, 1997, личное общение).
Непонятно, в каких случаях можно использовать этот метод
В основу процедуры КАУК положена гипотеза Ундойча, которая гласит, что «утверждение, рожденное из воспоминаний о реально происшедших событиях, содержательно и качественно отличается от утверждения, основанного на фантазиях или домыслах». Тем не менее это всего лишь рабочая гипотеза, которая постулирует наличие определенных различий, не указывая, с чем, предположительно, они должны быть связаны (Sporer, 1997). При разработке процедуры КАУК авторы опирались на опыт специалистов, проводивших интервью с детьми, перенесшими сексуальное насилие, с тем чтобы ее применение обеспечило возможность оценить достоверность свидетельских показаний именно в таких обстоятельствах. Одно из безусловных достоинств любого теоретического подхода заключается в том, что он позволяет прогнозировать, в каких ситуациях допустимо применение какого-либо метода. Ввиду недостатка у ОВУ теоретического фундамента трудно сказать, в каких ситуациях его применение будет оправданным, и, как я уже говорил в настоящей главе, эксперты по КАУК до сих пор не пришли к единому мнению о том, в каких условиях следует применять этот метод.