<?xml version="1.0" encoding="UTF-8"?>
<!DOCTYPE article PUBLIC "-//NLM//DTD JATS (Z39.96) Journal Publishing DTD v1.3 20210610//EN" "JATS-journalpublishing1-3.dtd">
<article article-type="research-article" dtd-version="1.3" xmlns:mml="http://www.w3.org/1998/Math/MathML" xmlns:xlink="http://www.w3.org/1999/xlink" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance" xml:lang="ru"><front><journal-meta><journal-id journal-id-type="publisher-id">sechenov</journal-id><journal-title-group><journal-title xml:lang="ru">Сеченовский вестник</journal-title><trans-title-group xml:lang="en"><trans-title>Sechenov Medical Journal</trans-title></trans-title-group></journal-title-group><issn pub-type="ppub">2218-7332</issn><issn pub-type="epub">2658-3348</issn><publisher><publisher-name>Сеченовский Университет</publisher-name></publisher></journal-meta><article-meta><article-id pub-id-type="doi">10.47093/2218-7332.2023.14.1.4-14</article-id><article-id custom-type="elpub" pub-id-type="custom">sechenov-895</article-id><article-categories><subj-group subj-group-type="heading"><subject>Research Article</subject></subj-group><subj-group subj-group-type="section-heading" xml:lang="ru"><subject>РУКОВОДСТВО ПО БИОМЕДИЦИНСКОЙ СТАТИСТИКЕ</subject></subj-group><subj-group subj-group-type="section-heading" xml:lang="en"><subject>BIOMEDICAL STATISTICS TUTORIAL</subject></subj-group></article-categories><title-group><article-title>Базовые аспекты мета-анализа. Часть 1</article-title><trans-title-group xml:lang="en"><trans-title>Basic aspects of meta-analysis. Part 1</trans-title></trans-title-group></title-group><contrib-group><contrib contrib-type="author" corresp="yes"><contrib-id contrib-id-type="orcid">https://orcid.org/0000-0002-2224-0019</contrib-id><name-alternatives><name name-style="eastern" xml:lang="ru"><surname>Суворов</surname><given-names>А. Ю.</given-names></name><name name-style="western" xml:lang="en"><surname>Suvorov</surname><given-names>A. Yu.</given-names></name></name-alternatives><bio xml:lang="ru"><p>Александр Юрьевич Суворов, канд. мед. наук, главный статистик</p><p>Центр анализа сложных систем</p><p>119991</p><p>ул. Трубецкая, д. 8, стр. 2</p><p>Москва</p></bio><bio xml:lang="en"><p>Alexander Yu. Suvorov, Cand. of Sci. (Medicine), Chief Statistician</p><p>Centre for Analysis of Complex Systems</p><p>119991</p><p>8/2, Trubetskaya str.</p><p>Moscow</p></bio><xref ref-type="aff" rid="aff-1"/></contrib><contrib contrib-type="author" corresp="yes"><contrib-id contrib-id-type="orcid">https://orcid.org/0000-0001-8885-6062</contrib-id><name-alternatives><name name-style="eastern" xml:lang="ru"><surname>Латушкина</surname><given-names>И. В.</given-names></name><name name-style="western" xml:lang="en"><surname>Latushkina</surname><given-names>I. V.</given-names></name></name-alternatives><bio xml:lang="ru"><p>Ирина Викторовна Латушкина, младший научный сотрудник</p><p>Центр анализа сложных систем</p><p>119991</p><p>ул. Трубецкая, д. 8, стр. 2</p><p>Москва</p><p>Тел.: +7 (916) 126-12-85</p></bio><bio xml:lang="en"><p>Irina V. Latushkina, junior researcher</p><p>Centre for Analysis of Complex Systems</p><p>119991</p><p>8/2, Trubetskaya str.</p><p>Moscow</p><p>Tel.: +7 (916) 126-12-85</p></bio><email xlink:type="simple">latushkina_i_v@staff.sechenov.ru</email><xref ref-type="aff" rid="aff-1"/></contrib><contrib contrib-type="author" corresp="yes"><contrib-id contrib-id-type="orcid">https://orcid.org/0000-0002-3462-0123</contrib-id><name-alternatives><name name-style="eastern" xml:lang="ru"><surname>Гуляева</surname><given-names>К. А.</given-names></name><name name-style="western" xml:lang="en"><surname>Gulyaeva</surname><given-names>K. А.</given-names></name></name-alternatives><bio xml:lang="ru"><p>Ксения Александровна Гуляева, аспирант</p><p>кафедра пропедевтики внутренних болезней, гастроэнтерологии и гепатологии</p><p>119991</p><p>ул. Трубецкая, д. 8, стр. 2</p><p>Москва</p></bio><bio xml:lang="en"><p>Kseniya А. Gulyaeva, postgraduate student</p><p>Department of Propaedeutics of Internal Diseases, Gastroenterology andHepatology</p><p>119991</p><p>8/2, Trubetskaya str.</p><p>Moscow</p></bio><xref ref-type="aff" rid="aff-1"/></contrib><contrib contrib-type="author" corresp="yes"><contrib-id contrib-id-type="orcid">https://orcid.org/0000-0002-3989-2590</contrib-id><name-alternatives><name name-style="eastern" xml:lang="ru"><surname>Буланов</surname><given-names>Н. М.</given-names></name><name name-style="western" xml:lang="en"><surname>Bulanov</surname><given-names>N. M.</given-names></name></name-alternatives><bio xml:lang="ru"><p>Николай Михайлович Буланов, канд. мед. наук, доцент</p><p>кафедра внутренних, профессиональных болезней и ревматологии</p><p>119991</p><p>ул. Трубецкая, д. 8, стр. 2</p><p>Москва</p></bio><bio xml:lang="en"><p>Nikolay M. Bulanov, Cand. of Sci. (Medicine), Associate Professor</p><p>Department of Internal, Occupational Diseases and Rheumatology</p><p>119991</p><p>8/2, Trubetskaya str.</p><p>Moscow</p></bio><xref ref-type="aff" rid="aff-1"/></contrib><contrib contrib-type="author" corresp="yes"><contrib-id contrib-id-type="orcid">https://orcid.org/0000-0002-1210-2528</contrib-id><name-alternatives><name name-style="eastern" xml:lang="ru"><surname>Надинская</surname><given-names>М. Ю.</given-names></name><name name-style="western" xml:lang="en"><surname>Nadinskaia</surname><given-names>M. Yu.</given-names></name></name-alternatives><bio xml:lang="ru"><p>Мария Юрьевна Надинская, канд. мед. наук, доцент</p><p>кафедра пропедевтики внутренних болезней, гастроэнтерологии и гепатологии</p><p>119991</p><p>ул. Трубецкая, д. 8, стр. 2</p><p>Москва</p></bio><bio xml:lang="en"><p>Maria Yu. Nadinskaia, Cand. of Sci. (Medicine), Associate Professor</p><p>Department of Propaedeutics of Internal Diseases, Gastroenterology and Hepatology</p><p>119991</p><p>8/2, Trubetskaya str.</p><p>Moscow</p></bio><xref ref-type="aff" rid="aff-1"/></contrib><contrib contrib-type="author" corresp="yes"><contrib-id contrib-id-type="orcid">https://orcid.org/0000-0001-7540-1130</contrib-id><name-alternatives><name name-style="eastern" xml:lang="ru"><surname>Заикин</surname><given-names>А. А.</given-names></name><name name-style="western" xml:lang="en"><surname>Zaikin</surname><given-names>A. A.</given-names></name></name-alternatives><bio xml:lang="ru"><p>Алексей Анатольевич Заикин, канд. физ-мат. наук, заместитель директора</p><p>Центр анализа сложных систем</p><p>119991</p><p>ул. Трубецкая, д. 8, стр. 2</p><p>Москва</p></bio><bio xml:lang="en"><p>Alexey A. Zaikin, Cand. of Sci. (Physics and Mathematics), Deputy Director</p><p>Centre for Analysis of Complex Systems</p><p>119991</p><p>8/2, Trubetskaya str.</p><p>Moscow</p></bio><xref ref-type="aff" rid="aff-1"/></contrib></contrib-group><aff-alternatives id="aff-1"><aff xml:lang="ru"><institution>ФГАОУ ВО «Первый Московский государственный медицинский университет им. И. М. Сеченова»&#13;
Минздрава России (Сеченовский Университет)</institution><country>Россия</country></aff><aff xml:lang="en"><institution>Sechenov First Moscow State Medical University (Sechenov University)</institution><country>Russian Federation</country></aff></aff-alternatives><pub-date pub-type="collection"><year>2023</year></pub-date><pub-date pub-type="epub"><day>30</day><month>03</month><year>2023</year></pub-date><volume>14</volume><issue>1</issue><fpage>4</fpage><lpage>14</lpage><permissions><copyright-statement>Copyright &amp;#x00A9; Суворов А.Ю., Латушкина И.В., Гуляева К.А., Буланов Н.М., Надинская М.Ю., Заикин А.А., 2023</copyright-statement><copyright-year>2023</copyright-year><copyright-holder xml:lang="ru">Суворов А.Ю., Латушкина И.В., Гуляева К.А., Буланов Н.М., Надинская М.Ю., Заикин А.А.</copyright-holder><copyright-holder xml:lang="en">Suvorov A.Y., Latushkina I.V., Gulyaeva K.А., Bulanov N.M., Nadinskaia M.Y., Zaikin A.A.</copyright-holder><license license-type="creative-commons-attribution" xlink:href="https://creativecommons.org/licenses/by/4.0/" xlink:type="simple"><license-p>This work is licensed under a Creative Commons Attribution 4.0 License.</license-p></license></permissions><self-uri xlink:href="https://www.sechenovmedj.com/jour/article/view/895">https://www.sechenovmedj.com/jour/article/view/895</self-uri><abstract><p>   Мета-анализ – одно из понятий научной методологии. Он является частым, но не обязательным компонентом систематического обзора эмпирических исследований. Для проведения мета-анализа объединяются результаты нескольких научных исследований и осуществляется проверка одной или нескольких взаимосвязанных научных гипотез при помощи количественных (статистических) методов. Для такого анализа можно использовать либо первичные данные оригинальных исследований, либо обобщенные опубликованные (вторичные) результаты исследований, посвященные одной проблеме. Мета-анализ используется для получения оценки величины неизвестного эффекта, а также для сравнения результатов различных исследований, выявляет в них закономерности или другие взаимосвязи, а также возможные источники разногласий. Мета-анализы занимают высшую ступень достоверности в концепции доказательной медицины, поэтому их результаты считаются самым надежным источником доказательств. Понимание всех этапов проведения мета-анализа позволит научным сотрудникам грамотно анализировать результаты таких исследований, а также формулировать задачи при самостоятельном проведении мета-анализов. В настоящей статье читатель познакомится с такими ключевыми понятиями мета-анализа, как взвешенные эффекты, гетерогенность, различные типы используемых статистических моделей, а также научится работать с некоторыми видами графиков, получаемых в мета-анализах.</p></abstract><trans-abstract xml:lang="en"><p>   Meta-analysis is one of the concepts of scientific methodology, and is a frequent but optional component of systematic reviews of empirical research. It joins the results of several scientific studies and tests one or more interrelated scientific hypotheses using quantitative (statistical) methods. This analysis can either use primary data from the original studies or published (secondary) results of studies dealing with the same problem. Meta-analysis is used to obtain an estimate of the magnitude of an unknown effect, and compare the results of different studies, identifying patterns or other relationships in them, as well as possible sources of disagreement. Meta-analyses are the highest level of credibility within evidence-based medicine (EBM), so meta-analysis results are considered as the most reliable source of evidence. Understanding all the procedures of a meta-analysis will allow researchers to analyze the results of such studies correctly, as well as formulate tasks when conducting meta-analyses on their own. In this article the reader will be introduced to key concepts such as weighted effects, heterogeneity, the different types of statistical models used, and how to work with some of the types of plots produced in meta-analyses.</p></trans-abstract><kwd-group xml:lang="ru"><kwd>размер эффекта</kwd><kwd>модель с фиксированными эффектами</kwd><kwd>модель со случайными эффектами</kwd><kwd>гетерогенность</kwd><kwd>анализ чувствительности</kwd><kwd>рандомизированное контролируемое исследование</kwd><kwd>когортное исследование</kwd></kwd-group><kwd-group xml:lang="en"><kwd>effect size</kwd><kwd>fixed effects model</kwd><kwd>random effects model</kwd><kwd>heterogeneity</kwd><kwd>sensitivity analysis</kwd><kwd>randomized controlled trial</kwd><kwd>cohort study</kwd></kwd-group><funding-group><funding-statement xml:lang="ru">Статья подготовлена при поддержке программы стратегического академического лидерства «Приоритет-2030» ФГАОУ ВО «Первый Московский государственный медицинский университет им. И. М. Сеченова» Минздрава России (Сеченовский Университет)</funding-statement><funding-statement xml:lang="en">This article was supported by the Academic leadership program Priority 2030 proposed by Sechenov First Moscow State Medical University (Sechenov University)</funding-statement></funding-group></article-meta></front><body><sec><title>Список сокращений:</title><p>ДИ – доверительный интервалнеРКИ – нерандомизированное исследованиеРКИ – рандомизированное контролируемое исследование</p><p>Многие оригинальные исследования имеют сходные цели и задачи, но при этом проводятся разными коллективами, с разными пациентами, по иным протоколам и в разные временные промежутки. Результаты таких исследований могут быть разнообразны и противоречивы, что затрудняет принятие клинических решений. Благодаря концепции доказательной медицины разработаны инструменты, позволяющие объединить результаты многочисленных исследований, в определенной мере различающихся между собой [<xref ref-type="bibr" rid="cit1">1</xref>]. Проверяя гипотезы в разных популяциях, мы получаем бесценные данные о том, что: а) эффект прослеживается у разных групп (или, наоборот, есть только в конкретных группах); б) существует вариабельность эффекта. Большое количество сходных исследований, по сути, являются репликациями одного большого эксперимента. Соответственно большее количество репликаций повышает мощность и степень доверия к результатам.</p><p>Существуют несколько основных инструментов, чтобы вынести суждение о совокупных результатах неких единообразных исследований.</p><p>В настоящей публикации мы затронем базовые аспекты проведения мета-анализов, что делается после того, как проведен литературный поиск и фактически проведена бóльшая часть работы для систематического обзора.</p></sec><sec><title>ВКЛЮЧЕНИЕ ИССЛЕДОВАНИЙ В МЕТА-АНАЛИЗ</title></sec><sec><title>Рекомендации PRISMA</title><p>Детальное описание критериев и процесса литературного поиска не является темой настоящей публикации, однако важно помнить, что любое создание систематического обзора состоит из ряда ступеней. Эти ступени объединены в стандартную схему, получившую название «диаграмма PRISMA» (Preferred Reporting Items for Systematic Reviews and Meta-Analyses, предпочтительные элементы отчетности для систематических обзоров и мета-анализов), по названию соответствующих рекомендаций [<xref ref-type="bibr" rid="cit2">2</xref>] (рис. 1). [<xref ref-type="bibr" rid="cit2">2</xref>] (рис. 1).</p><p> </p><fig id="fig-1"><caption><p>РИС. 1. Шаблон потоковой диаграммы PRISMA, адаптирована из M.J. Page и соавт. [2]FIG. 1. PRISMA flow diagram template, adapted from M.J. Page et al. [2]</p></caption><graphic xlink:href="sechenov-14-1-g001.png"><uri content-type="original_file">https://cdn.elpub.ru/assets/journals/sechenov/2023/1/ksPeIgYaxkUXlJIkFWNjOCUbmjjOGaVLUS9ZRh8U.png</uri></graphic></fig><p> </p><p>Собственно, мета-анализ начинается после того, как завершено включение и доступны исследования, из которых будет выполнена экстракция данных.</p><p>Основными рекомендациями по предварительным и дальнейшим шагам, представляющим для читателя практический интерес, являются:</p><p>Представленные рекомендации помогут соблюсти высокие стандарты при написании систематических обзоров и уменьшить число возможных ошибок и неточностей, которые впоследствии могут затруднить продолжение работы. В связи с тем что метаанализы широко используются фармацевтическими компаниями, а также иными коммерческими структурами, соблюдение указанных в рекомендациях стандартов проверяется рецензентами очень тщательно как при рассмотрении, так и при публикации статей. Строгое соблюдение регламента и рекомендаций является залогом успешной публикации.</p></sec><sec><title>ОЦЕНКА ВОЗМОЖНЫХ СМЕЩЕНИЙ В ПУБЛИКАЦИЯХ</title><p>После сбора всех подходящих публикаций для включения в систематический обзор или мета-анализ необходимо оценить их с точки зрения возможных смещений. К сожалению, источников потенциальных смещений может быть довольно много, поэтому были разработаны специальные инструменты, позволяющие исследователям проводить потенциальную оценку публикаций. Такие инструменты получили название графики риска смещений, или risk of bias plots.</p><p>Данные графики можно строить для исследований с различными типами дизайна, в первую очередь для рандомизированных контролируемых исследований (РКИ) (рис. 2) и для нерандомизированных исследований (неРКИ) [<xref ref-type="bibr" rid="cit3">3</xref>] [ 4] (рис. 3). Графики, приведенные ниже, получили название «светофоры». Основная идея сводится к тому, что исследователи, проводящие мета-анализ с включением РКИ (рис. 2), рассматривают каждое исследование по отдельности и оценивают, насколько велики риски, ассоциированные с 5 доменами:</p><p>Риск оценивается как «высокий», «средний» и «низкий».</p><p> </p><fig id="fig-2"><caption><p>РИС. 2. Диаграмма светофор для рандомизированных контролируемых исследований, адаптирована из L.A. McGuinnessи соавт. [5]FIG. 2. Traffic light plot for randomized controlled trials, adapted from L.A. McGuinness et al. [5]Примечание: риск смещения, ассоциированный с доменами: Д1 – рандомизацией; Д2 – вмешательством; Д3 – пропущенными данными; Д4 –оценкой конечной точки; Д5 – представлением результатов.Note: risk of bias associated with the domains: D1 – randomization; D2 – deviations from intended interventions; D3 – missing data; D4 – measurementof outcome; D5 – selection of reported results</p></caption><graphic xlink:href="sechenov-14-1-g002.png"><uri content-type="original_file">https://cdn.elpub.ru/assets/journals/sechenov/2023/1/BKcuGvYxVgO9qtTgL1Fgwxypp6TWfJod2f47kQc2.png</uri></graphic></fig><p> </p><p> </p><fig id="fig-3"><caption><p>РИС. 3. Диаграмма светофор для когортных исследований, адаптирована из L.A. McGuinness и соавт. [5]FIG. 3. Traffic light plot for cohort studies, adapted from L.A. McGuinness et al. [5]Примечание: риск смещения, ассоциированный с доменами: Д1 – конфаундинг (влияние вмешивающихся факторов); Д2 – отбором и вклю-чением пациентов; Д3 – вмешательством; Д4 – расхождением с протоколом; Д5 – пропущенными данными; Д6 – оценкой конечной точки;Д7 – представлением результатов.Note: risk of bias associated with the domains: D1 – confounding; D2 – selection of participants; D3 – classification of interventions; D4 – deviations fromintended interventions; D5 – missing data; D6 – measurement of outcome; D7 – selection of reported results</p></caption><graphic xlink:href="sechenov-14-1-g003.png"><uri content-type="original_file">https://cdn.elpub.ru/assets/journals/sechenov/2023/1/qsXzLzE2pbPnP1APdQLoWLAXQAnZhWitPMbDBK84.png</uri></graphic></fig><p> </p><p>В случае если в мета-анализ включаются неРКИ, оцениваются риски, связанные с 7 доменами:</p><p>Оценка риска интерпретируется как потенциально «низкая», «умеренная», «высокая» и «очень высокая». Данный инструмент позволяет критически подходить к полученным в мета-анализе результатам и рассматривать исследования с высоким риском смещения как менее надежные. Детальное описание возможностей данного инструмента приведено на специализированном сайте2.</p></sec><sec><title>РАЗМЕР ЭФФЕКТА В МЕТА-АНАЛИЗЕ</title><p>Исследования, объединенные в мета-анализе, обычно оценивают результаты по идентичной конечной точке. Данная оценка есть эффект, который был достигнут, или наблюдаемый эффект. Эффект традиционно обозначается греческой буквой «тета» θ, наблюдаемый эффект по каждому из k исследований обычно обозначается, как θk. Понятие эффекта, его размера и его оценки описано в нашей публикации о тестировании статистических гипотез [<xref ref-type="bibr" rid="cit6">6</xref>].</p><p>Существуют две основные концепции, позволяющие описать и оценить эффект нескольких исследований. Обе эти концепции привязаны к соответствующим статистическим моделям с фиксированными и со случайными эффектами.</p></sec><sec><title>Модель с фиксированными эффектами</title><p>Эта модель подразумевает, что включенные в метаанализ исследования очень похожи друг на друга в отношении дизайна, количества пациентов, методологии проведения, оценки результатов и других параметров. Исследования представляются сходными настолько, что их результаты, или эффекты θ1,2,3,...k, считают единой выборкой из одной генеральной совокупности всех возможных аналогичных исследований.</p><p>Вероятностное распределение такой совокупности имеет математическое ожидание (среднее взвешенное по вероятностям возможных значений), представляющее собой некий истинный размер эффекта θ̂ . Соответственно каждое исследование представляет собой элемент совокупности, а несколько случайно взятых из такого распределения исследований (мета-анализ) представляют собой банальную выборку.</p><p>Наблюдаемый эффект в каждом исследовании k будет отличаться от истинного на величину ошибки:</p><p>θ̂ = θk + ϵk.</p><p>Соответственно мы считаем, что среди нескольких исследований наиболее точными являются те, где величина выборочной ошибки ϵ наименьшая (рис. 4).</p><p> </p><fig id="fig-4"><caption><p>РИС. 4. Схематичное представление истинного и наблюдаемых эффектов в исследованиях при использовании моделис фиксированными эффектамиFIG. 4. Schematic representation of true and observed effects in studies using a fixed effects modelПримечание: ϵk – величина выборочной ошибки; серая линия – истинный размер эффекта; цветные прямые линии – наблюдаемые эффекты.Note: ϵk – sampling error; grey line – true effect size; colored straight lines – observed effects</p></caption><graphic xlink:href="sechenov-14-1-g004.png"><uri content-type="original_file">https://cdn.elpub.ru/assets/journals/sechenov/2023/1/6zjUoIez9NGdAVjVigZh5kU5jaJf6vUn7k6Evrt9.png</uri></graphic></fig><p> </p><p>Выборка из нескольких исследований {1,2,3,...k} должна иметь некую центральную тенденцию или математическое ожидание, отражающее истинный размер эффекта. Таким образом, используя определение математического ожидания как среднее взвешенное, получаем:</p><fig id="fig-5"><graphic xlink:href="sechenov-14-1-g005.png"><uri content-type="original_file">https://cdn.elpub.ru/assets/journals/sechenov/2023/1/k4hSVOoi5T3qPQk1VjsoQ1M3AbvAIUOC55lN3n5o.png</uri></graphic></fig><p>• θ̂ – взвешенный размер эффекта по k исследованиям, являющийся результатом мета-анализа;</p><p>• θk – наблюдаемый эффект исследования k;</p><p>• wk – вес исследования k.</p><p>Из данного уравнения неясным остается, как получить вес каждого исследования. Как мы знаем, наблюдаемый эффект, полученный в исследовании k, является точечной оценкой (point estimate). В исследование k включено определенное количество пациентов, n. Мерой вариабельности эффекта θk будет его стандартная ошибка, рассчитанная как:</p><fig id="fig-6"><graphic xlink:href="sechenov-14-1-g006.png"><uri content-type="original_file">https://cdn.elpub.ru/assets/journals/sechenov/2023/1/Oo5pSGTjG2UvPMOmZyw4j2MwNLZ3g9eo3YyjN4Wx.png</uri></graphic></fig><p>где</p><p>√n • σ – стандартное отклонение эффекта θk в исследовании k;</p><p>• n – количество пациентов в исследовании k.</p><p>В модели с фиксированными эффектами один из способов расчета весов выполняется с помощью так называемого метода обратной дисперсии (inverse variance method):</p><fig id="fig-7"><graphic xlink:href="sechenov-14-1-g007.png"><uri content-type="original_file">https://cdn.elpub.ru/assets/journals/sechenov/2023/1/9Gm9NRMKsTmL6SWpBwoFUUqorm6VARIfGbPqo6Zj.png</uri></graphic></fig><p>где</p><p>• sk 2 – квадрат стандартной ошибки эффекта θk в исследовании k;</p><p>• wk – вес исследования k.</p><p>Таким образом, в модели с фиксированными эффектами вес любого исследования обратно связан с величиной обратной ошибки эффекта в исследовании и напрямую – с количеством включенных в исследование пациентов. Допущением модели является тот факт, что ничто, кроме количества пациентов, не может влиять на вес исследования.</p><p>Данная концепция, с одной стороны, представляется излишне упрощенной. В реальном мире исследования так или иначе отличаются друг от друга и данные различия обусловлены огромным количеством факторов помимо размера выборки.</p></sec><sec><title>Модель со случайными эффектами</title><p>Если в мета-анализе объединены исследования различного дизайна (РКИ, когортные и т.п.), проведенные в разные годы, в разных странах, в центрах с разными стандартами оказания медицинской помощи, с протоколами вмешательств по разным клиническим рекомендациям, требуется модель, которая будет учитывать различия не только по объему выборки, но и по вышеупомянутым факторам.</p><p>Такая модель предполагает, что эффект по каждому исследованию, включенному в мета-анализ, является выборкой из собственной совокупности размеров эффекта и отличается от математического ожидания собственной совокупности на величину ϵk (рис. 5).</p><p> </p><fig id="fig-8"><caption><p>РИС. 5. Схематичное представление истинного и наблюдаемых эффектов в исследованиях при использовании модели сослучайными эффектамиFIG. 5. Schematic representation of true and observed effects in studies using a random effects modelПримечание: ξk – величина ошибки каждой генеральной совокупности; ϵk – величина выборочной ошибки; серая линия – истинный размерэффекта; цветные пунктирные линии – наблюдаемые эффекты в генеральной совокупности; цветные прямые линии – в отдельных исследо-ваниях.Note: ξk – error of each general population; ϵk – sampling error; grey line – true effect size; colored dotted lines – observed effects in general populations;colored straight lines – in individual studies.</p></caption><graphic xlink:href="sechenov-14-1-g008.png"><uri content-type="original_file">https://cdn.elpub.ru/assets/journals/sechenov/2023/1/5JwCG9G4k8HiVNHfBPXnqZnJhI4TcXuuTbYasgHO.png</uri></graphic></fig><p> </p><p>Если мы включили в мета-анализ k исследований, следовательно, это k выборок из k различных генеральных совокупностей. При этом k совокупностей имеют свое распределение с математическим ожиданием в виде взвешенного размера эффекта, при этом каждая генеральная совокупность отличается от математического ожидания своего распределения на величину ξk. Такое общее распределение имеет точечную оценку, которая соответствует взвешенному эффекту в мета-анализе, θ̂, и дисперсию τ2.</p><p>Таким образом, точечная оценка эффекта в каждом исследовании среди k отличается от взвешенного эффекта следующим образом:</p><p>θ̂ = θk + ϵk + ξk.</p><p>Показатель ξk объединяет различия, которые не связаны с ошибкой выборки.</p><p>Модель, которая использует данную логику, получила название модель со случайными эффектами. Веса индивидуальных исследований в такой модели рассчитываются следующим образом:</p><fig id="fig-9"><graphic xlink:href="sechenov-14-1-g009.png"><uri content-type="original_file">https://cdn.elpub.ru/assets/journals/sechenov/2023/1/AHLTXrbhsqWYzSjilf618o8doVFqBmshUFgdSS7j.png</uri></graphic></fig><p>где</p><p>• sk 2 – квадрат стандартной ошибки эффекта θk в исследовании k;</p><p>• wk – вес исследования k;</p><p>• τ2 – дисперсия распределения нескольких генеральных совокупностей.</p><p>В свою очередь, взвешенный эффект рассчитывается абсолютно так же, как и для модели с фиксированными эффектами:</p><fig id="fig-10"><graphic xlink:href="sechenov-14-1-g010.png"><uri content-type="original_file">https://cdn.elpub.ru/assets/journals/sechenov/2023/1/KjIhxCpRbiuVWhjtBdvm0l0mfhkVqOPlRQbLzIob.png</uri></graphic></fig><p>где • θ̂ – взвешенный размер эффекта по k исследованиям, являющийся результатом мета-анализа;</p><p>• θk – наблюдаемый эффект исследования k;</p><p>• wk – вес исследования k.</p><p>Для вычисления показателя τ2 используются различные математические подходы, наиболее часто – DerSimonian-Laird, ограниченного максимального правдоподобия (Restricted Maximum Likelihood), максимального правдоподобия (Maximum Likelihood), процедура Paule-Mandel и другие [7–9]. Выбор конкретного метода зависит от типа оценки конечной точки и от конкретной ситуации, поэтому требует консультации с биостатистиком.</p></sec><sec><title>HETEROGENEITY ASSESSMENT ОЦЕНКА ГЕТЕРОГЕННОСТИ</title><p>Мы выяснили, что включенные в мета-анализ исследования могут значительно различаться, более того, в зависимости от этих различий избирается та или иная модель анализа. Существует ли некая мера, с помощью которой можно оценивать степень различий? Можем ли мы как-то объяснить степень различий, и нужно ли это делать? Как определить, какие исследования больше отличаются от других? На все эти вопросы может дать ответ концепция о гетерогенности.</p><p>Гетерогенность зависит от многих причин, наиболее частые из которых:</p><p>Когда исследователи сталкиваются с избыточной гетерогенностью, например в ситуации, где у ряда исследований противоположное направление эффекта или когда крайне разный размер эффекта, необходимо разобраться, не имеет ли место ошибочное включение исследований в мета-анализ. Попытка объединить исследования, в которых оценивались совершенно разные параметры, приведет к огромной гетерогенности и не ответит на вопрос мета-анализа. Результаты такого мета-анализа будут крайне сомнительны.</p><p>Если мы считаем, что на данном этапе ошибки нет, необходимо далее искать причину высокой гетерогенности. Например, при использовании нестандартизованных показателей необходимо попытаться использовать стандартизованные. Ряд показателей может быть измерен в разных шкалах или значительно различаться на включении между исследованиями – стандартизация позволяет сгладить такие различия.</p><p>Следующей причиной высокой гетерогенности является наличие скрытых или явных модераторов или конфаундеров. Например, при оценке распространенности сердечно-сосудистых заболеваний явными модераторами являются пол и возрастная группа пациентов. Включение модератора и оценка его влияния на эффект и гетерогенность проводится с помощью метарегрессионного анализа, или метарегрессии. Дальнейший анализ подгрупп позволяет значительно снизить гетерогенность.</p><p>Наконец, малое количество исследований в метаанализе может привести к высокой гетерогенности.</p><p>По G. Rücker, существует 2 основных типа гетерогенности [<xref ref-type="bibr" rid="cit10">10</xref>]:</p></sec><sec><title>Способы оценки гетерогенности</title><p>Cochran`s Q </p><p>Мы рассмотрели оба типа моделей и поняли, что существует наблюдаемый эффект θ̂ k некоего исследования k, а также взвешенный эффект, который мы рассчитываем θ̂ для всех исследований мета-анализа. Мы также помним, что у каждого исследования есть свой вес wk. Отклонение наблюдаемого эффекта от взвешенного может быть направлено в любую сторону (может быть с любым знаком). Если мы возведем отклонение в квадрат, оно больше не будет привязано к направлению.</p><p>Сумма взвешенных квадратов таких отклонений получила название Cochran’s Q:</p><fig id="fig-11"><graphic xlink:href="sechenov-14-1-g011.png"><uri content-type="original_file">https://cdn.elpub.ru/assets/journals/sechenov/2023/1/ssVh7hNsTWLAAnjQ9nZC6JwuLWIHeiPCE2oSnLAV.png</uri></graphic></fig><p>Мы можем рассчитать отклонение наблюдаемого эффекта от взвешенного по всем исследованиям.</p><p>Распределение Cochran’s Q сильно приближено к распределению χ2 с K – 1 степенями свободы, где K – количество исследований в мета-анализе.</p><p>Cochran’s Q будет расти при увеличении количества исследований в мета-анализе, а также при наличии в нем крупных исследований с большим количеством пациентов.</p><p>I2-статистика Хиггинса и Томпсона </p><p>Данная статистика рассчитывается с помощью Cochran’s Q и указывает на % гетерогенности, обусловленный ошибкой ξk (ошибкой, не связанной с размером выборки).</p><p>Нулевая гипотеза состоит в том, что гетерогенность отсутствует и Cochran’s Q следует распределению χ2 с K – 1 степенями свободы (ожидаемая гетерогенность). Но у нас имеется и наблюдаемая гетерогенность Q. Тогда отклонение наблюдаемой гетерогенности от ожидаемой составляет:</p><fig id="fig-12"><graphic xlink:href="sechenov-14-1-g012.png"><uri content-type="original_file">https://cdn.elpub.ru/assets/journals/sechenov/2023/1/dhYpvyLzSknh2vBedfHjb0wCcKSnztueVErI6Qdn.png</uri></graphic></fig><p>и выражается в долях единицы или в процентах.</p><p>Принято выделять низкую (до 25%), умеренную (25–75%) и высокую (75% и выше) гетерогенность [<xref ref-type="bibr" rid="cit11">11</xref>].</p><p>H2-статистика </p><p>Данная статистика рассчитывает отношение Q-статистики к K – 1: при отсутствии гетерогенности значение стремится к 1. Более высокие значения говорят о наличии гетерогенности между исследованиями.</p><fig id="fig-13"><graphic xlink:href="sechenov-14-1-g013.png"><uri content-type="original_file">https://cdn.elpub.ru/assets/journals/sechenov/2023/1/PcMYPYikXQAlotHawfPTyNF6efiC5EUvppXw1VHe.png</uri></graphic></fig><p>Дисперсия гетерогенности τ2 </p><p>Истинный взвешенный эффект имеет собственную дисперсию τ2 и стандартное отклонение τ. Данная статистика хорошо подходит для оценки меры гетерогенности, имея ту же размерность, что и эффект в исследованиях в мета-анализе. Зная рассчитанный взвешенный размер эффекта θ̂ в мета-анализе, мы можем оценить 95% доверительный интервал (ДИ) истинного эффекта как θ̂ ± 1,96 × τ.</p></sec><sec><title>АНАЛИЗ ЧУВСТВИТЕЛЬНОСТИ</title><p>Анализ чувствительности показывает, какое влияние могут оказать отдельные исследования на взвешенный эффект, или, другими словами, насколько результаты мета-анализа устойчивы.</p><p>Одним из наиболее часто используемых способов оценки чувствительности является метод leave-one-out Каждое исследование по одному удаляется из мета-анализа, после чего размер взвешенного эффекта и гетерогенность пересчитываются. Серьезные изменения по величине размера эффекта и снижение гетерогенности указывают на то, что именно исключенное исследование оказывает существенное влияние на общий результат. Если первоначально такое исследование в графике-«светофоре» было оценено исследователями как обладающее высоким/умеренным риском смещения, оно может быть исследованием-выбросом, и необходимо рассматривать целесообразность его присутствия в мета-анализе.</p><p>Графически результаты анализа чувствительности представлены на рисунке 6.</p><p> </p><fig id="fig-14"><caption><p>РИС. 6. Форест-диаграмма, демонстрирующая анализ чувствительности, адаптирована из S. Balduzzi и соавт. [12]FIG. 6. Forest plot showing sensitivity analysis, adapted from S. Balduzzi et al. [12]Примечание: study – исследование; MD – Mean difference, разница средних; Cl – confidence interval, доверительный интервал; P-value – значе-ние p; I2 – Higgin’s &amp; Thompson’s I2 statistic / I2 statistic, I2-статистика Хиггинса и Томпсона / I2-статистика; common (fixed) effect model – модельс фиксированными эффектами.Note: MD – Mean difference; Cl – confidence interval; I2 – Higgin’s &amp; Thompson’s I2 statistic / I2 statistic.</p></caption><graphic xlink:href="sechenov-14-1-g014.png"><uri content-type="original_file">https://cdn.elpub.ru/assets/journals/sechenov/2023/1/AuaqbRJBRghj8OUzscfAEIC8sb04KRnKJmT8xPcv.png</uri></graphic></fig><p> </p><p>В примере на рисунке 6 взвешенный эффект, полученный в мета-анализе, является разницей средних (mean difference) и составил 0,16 [0,1; 0,23], мы видим, что при исключении поочередно исследований из мета-анализа взвешенный эффект существенно не меняется. При этом исключение исследования Protocol 162A существенно снижает гетерогенность, по статистике I2 до 5%. Данное исследование требует пристального внимания, так как его присутствие обуславливает высокие значения гетерогенности во всем мета-анализе.</p><p>В общем случае анализ чувствительности направлен на оценку того, как меняется взвешенный эффект при исключении исследований, которым при оценке потенциальных рисков смещения был присвоен «высокий» и «очень высокий» уровень риска. При возникновении существенного влияния на эффект при исключении таких исследований (например, в ситуации, когда после исключения исследований с высоким риском 95% ДИ нового взвешенного эффекта перестает включать точечную оценку взвешенного эффекта до исключения исследований) необходимо пересмотреть необходимость включения исследований с высоким риском в мета-анализ</p></sec><sec><title>ФОРЕСТ-ДИАГРАММА (FOREST PLOT)</title><p>Наиболее общим способом суммировать результаты мета-анализа является форест-диаграмма (forest plot) – специфический график, отображающий исследования, вошедшие в анализ, эффект в каждом из них, взвешенный эффект, а также ряд дополнительных характеристик, например, веса каждого исследования, показатели гетерогенности, тип выбранной статистической модели (фиксированные или случайные эффекты). Неотъемлемой частью forest plot является диаграмма, дублирующая размеры эффекта и их 95% ДИ, а также взвешенный эффект и его 95% ДИ.</p><p>Довольно часто размер точек на графике, характеризующих определенное исследование, связан с весом данного исследования (соответственно, точки наибольшего размера связаны с исследованиями с наибольшим весом).</p><p>Типичный forest plot показан на рисунке 7. Данные исследования взяты из материалов, сопровождающих библиотеку meta языка программирования R [<xref ref-type="bibr" rid="cit12">12</xref>].</p><p> </p><fig id="fig-15"><caption><p>РИС. 7. Forest-диаграмма, демонстрирующая взвешенный эффект, адаптирована из S. Balduzzi и соавт. [12]FIG. 7. Forest plot showing the weighted effect, adapted from S. Balduzzi et al. [12]Примечание: study – исследование; experimental – экспериментальная группа; control – контрольная группа; total – общее значение; mean –среднее значение; SD – standard deviation, стандартное отклонение; MD – mean difference, разница средних; CI – confidence interval, до-верительный интервал; weight (common) – веса в модели с фиксированными эффектами; weight (random) – веса в модели со случайнымиэффектами; common (fixed) effect model – модель с фиксированными эффектами; random effect model – модель со случайными эффектами;heterogeneity – гетерогенность; I2 – Higgin’s &amp; Thompson’s I2 statistic / I2 statistic, I2-статистика Хиггинса и Томпсона / I2-статистика; τ2 – Tausquared,Тау-квадрат; P-value – значение p.Note: SD – standard deviation; MD – mean difference; CI – confidence interval; I2 – Higgin’s &amp; Thompson’s I2 statistic / I2 statistic; τ2 – Tau-squared.</p></caption><graphic xlink:href="sechenov-14-1-g015.png"><uri content-type="original_file">https://cdn.elpub.ru/assets/journals/sechenov/2023/1/0Ojs7rfCK3UyBf679UneMZ9Vjr9NCGVEZJ2iDWxh.png</uri></graphic></fig><p> </p><p>На рисунке 7 мы видим названия исследований и год публикации результатов, характеристики основных и контрольных групп (количества, средние и стандартные отклонения – необходимые нам данные для расчета стандартной ошибки), размер эффекта (в данном случае разница средних, mean difference, MD) и его 95% ДИ, веса в моделях с фиксированными и случайными эффектами, взвешенный эффект для обоих типов моделей, а также показатели гетерогенности.</p><p>Также мы видим диаграмму с отрисовкой все тех же размеров эффекта в исследованиях (в виде квадратов, размер которых указывает на веса) и взвешенные эффекты для моделей с фиксированными и случайными эффектами (в виде ромбов).</p><p>Вертикальная сплошная черта обозначает размер эффекта, равный нулю. Так как мы имеем дело с разницей средних, если 95% ДИ отдельных исследований или взвешенных эффектов включает ноль, значит высока вероятность, что наблюдаемые точечные оценки случайны.</p><p>В настоящем примере единственное исследование, где наблюдается значимый эффект, – Florell 1971, его вес в модели как с фиксированными, так и со случайными эффектами наивысший (38,6 и 33,3% соответственно). По результатам мета-анализа модель с фиксированными эффектами показывает наличие значимого эффекта, разница средних составила -0,71 [-1,26; -0,16], при этом результаты модели со случайными эффектами оказались незначимыми: точечная оценка составила -0,75, а 95% ДИ включает ноль [-1,53; 0,03].</p></sec><sec><title>ЗАКЛЮЧЕНИЕ</title><p>В настоящей части статьи мы познакомились с этапами включения исследований в мета-анализ, рассмотрели существующие рекомендации, с которыми необходимо познакомиться при написании мета-анализа, детально разобрали процесс создания весов, различные типы моделей, используемых в мета-анализах. Также мы познакомились с понятием гетерогенности и способом ее вычисления. Были представлены основные графики, публикуемые в мета-анализах, такие как forest plot и график leave-oneout для анализа чувствительности. В следующей публикации мы рассмотрим, как происходит анализ подгрупп и концепцию метарегрессии, а также научимся оценивать публикационное смещение, визуально и математическими методами. Дополнительно мы вспомним, как наиболее часто оценивается эффект в мета-анализе, и остановимся на стандартизованных показателях и оценке для них стандартной ошибки.</p></sec><sec><title>ВКЛАД АВТОРОВ</title><p>А.Ю. Суворов, И.В. Латушкина и К.А. Гуляева в равной степени внесли вклад в эту работу и должны считаться первыми соавторами. А.Ю. Суворов, И.В. Латушкина, К.А. Гуляева, Н.М. Буланов, М.Ю. Надинская и А.А. Заикин участвовали в написании текста рукописи. А.Ю. Суворов, И.В. Латушкина, Н.М. Буланов и А.А. Заикин выполняли поиск и анализ литературы по теме обзора. А.Ю. Суворов разработал общую концепцию статьи, А.А. Заикин осуществлял руководство ее написанием. Все авторы участвовали в обсуждении и редактировании работы. Все авторы утвердили окончательную версию публикации.</p><p>Конфликт интересов. Авторы заявляют об отсутствии конфликта интересов.</p><p>Финансирование. Статья подготовлена при поддержке программы стратегического академического лидерства «Приоритет-2030» ФГАОУ ВО «Первый Московский государственный медицинский университет им. И.М. Сеченова» Минздрава России (Сеченовский Университет).</p><p>1 Cochrane Handbook for Systematic Reviews of Interventions version 6.2 (updated February 2021). Cochrane, 2021. Available from https://training.cochrane.org/handbook/current
2 https://www.riskofbias.info/ (access date 01.11.2022).
</p></sec></body><back><ref-list><title>References</title><ref id="cit1"><label>1</label><citation-alternatives><mixed-citation xml:lang="ru">Sackett D. L., Rosenberg W. M., Gray J. A., et al. Evidence based medicine: what it is and what it isn’t. BMJ. 1996 Jan 13; 312 (7023): 71–72. doi: 10.1136/bmj.312.7023.71. PMID: 8555924</mixed-citation><mixed-citation xml:lang="en">Sackett D. L., Rosenberg W. M., Gray J. A., et al. Evidence based medicine: what it is and what it isn’t. BMJ. 1996 Jan 13; 312 (7023): 71–72. doi: 10.1136/bmj.312.7023.71. PMID: 8555924</mixed-citation></citation-alternatives></ref><ref id="cit2"><label>2</label><citation-alternatives><mixed-citation xml:lang="ru">Page M. J., McKenzie J. E., Bossuyt P. M., et al. The PRISMA 2020 statement: an updated guideline for reporting systematic reviews BMJ 2021; 372: n71. doi: 10.1136/bmj.n71</mixed-citation><mixed-citation xml:lang="en">Page M. J., McKenzie J. E., Bossuyt P. M., et al. The PRISMA 2020 statement: an updated guideline for reporting systematic reviews BMJ 2021; 372: n71. doi: 10.1136/bmj.n71</mixed-citation></citation-alternatives></ref><ref id="cit3"><label>3</label><citation-alternatives><mixed-citation xml:lang="ru">Sterne J. A. C., Savović J., Page M. J., et al. RoB 2: a revised tool for assessing risk of bias in randomised trials. BMJ. 2019 Aug 28; 366: l4898. doi: 10.1136/bmj.l4898. PMID: 31462531</mixed-citation><mixed-citation xml:lang="en">Sterne J. A. C., Savović J., Page M. J., et al. RoB 2: a revised tool for assessing risk of bias in randomised trials. BMJ. 2019 Aug 28; 366: l4898. doi: 10.1136/bmj.l4898. PMID: 31462531</mixed-citation></citation-alternatives></ref><ref id="cit4"><label>4</label><citation-alternatives><mixed-citation xml:lang="ru">Sterne J. A., Hernán M. A., Reeves B. C., et al. ROBINS-I: a tool for assessing risk of bias in non-randomised studies of interventions. BMJ. 2016 Oct 12; 355: i4919. doi: 10.1136/bmj.i4919. PMID: 27733354</mixed-citation><mixed-citation xml:lang="en">Sterne J. A., Hernán M. A., Reeves B. C., et al. ROBINS-I: a tool for assessing risk of bias in non-randomised studies of interventions. BMJ. 2016 Oct 12; 355: i4919. doi: 10.1136/bmj.i4919. PMID: 27733354</mixed-citation></citation-alternatives></ref><ref id="cit5"><label>5</label><citation-alternatives><mixed-citation xml:lang="ru">McGuinness L. A., Higgins J. P. T. Risk-of-bias VISualization (robvis): An R package and Shiny web app for visualizing risk-of-bias assessments. Res Synth Methods. 2021 Jan; 12 (1): 55–61. doi: 10.1002/jrsm.1411. Epub 2020 May 6. PMID: 32336025</mixed-citation><mixed-citation xml:lang="en">McGuinness L. A., Higgins J. P. T. Risk-of-bias VISualization (robvis): An R package and Shiny web app for visualizing risk-of-bias assessments. Res Synth Methods. 2021 Jan; 12 (1): 55–61. doi: 10.1002/jrsm.1411. Epub 2020 May 6. PMID: 32336025</mixed-citation></citation-alternatives></ref><ref id="cit6"><label>6</label><citation-alternatives><mixed-citation xml:lang="ru">Suvorov A. Yu., Bulanov N. М., Shvedova A. N., et al. Statistical hypothesis testing: general approach in medical research. Sechenov Medical Journal. 2022; 13 (1): 4–13. doi: 10.47093/2218-7332.2022.426.08</mixed-citation><mixed-citation xml:lang="en">Suvorov A. Yu., Bulanov N. М., Shvedova A. N., et al. Statistical hypothesis testing: general approach in medical research. Sechenov Medical Journal. 2022; 13 (1): 4–13. doi: 10.47093/2218-7332.2022.426.08</mixed-citation></citation-alternatives></ref><ref id="cit7"><label>7</label><citation-alternatives><mixed-citation xml:lang="ru">Viechtbauer W. Bias and efficiency of meta-analytic variance estimators in the random-effects model. Journal of Educational and Behavioral Statistics, 2005; 30 (3): 261–293. doi: 10.3102/10769986030003261</mixed-citation><mixed-citation xml:lang="en">Viechtbauer W. Bias and efficiency of meta-analytic variance estimators in the random-effects model. Journal of Educational and Behavioral Statistics, 2005; 30 (3): 261–293. doi: 10.3102/10769986030003261</mixed-citation></citation-alternatives></ref><ref id="cit8"><label>8</label><citation-alternatives><mixed-citation xml:lang="ru">Veroniki A. A, Jackson D., Viechtbauer W., et al. Methods to estimate the between-study variance and its uncertainty in meta-analysis. Res Synth Methods. 2016 Mar; 7 (1): 55–79. doi: 10.1002/jrsm.1164. Epub 2015 Sep 2. PMID: 26332144</mixed-citation><mixed-citation xml:lang="en">Veroniki A. A, Jackson D., Viechtbauer W., et al. Methods to estimate the between-study variance and its uncertainty in meta-analysis. Res Synth Methods. 2016 Mar; 7 (1): 55–79. doi: 10.1002/jrsm.1164. Epub 2015 Sep 2. PMID: 26332144</mixed-citation></citation-alternatives></ref><ref id="cit9"><label>9</label><citation-alternatives><mixed-citation xml:lang="ru">Langan D., Higgins J. P. T., Jackson D., et al. A comparison of heterogeneity variance estimators in simulated random-effects meta-analyses. Res Synth Methods. 2019 Mar; 10 (1): 83–98. doi: 10.1002/jrsm.1316. Epub 2018 Sep 6. PMID: 30067315</mixed-citation><mixed-citation xml:lang="en">Langan D., Higgins J. P. T., Jackson D., et al. A comparison of heterogeneity variance estimators in simulated random-effects meta-analyses. Res Synth Methods. 2019 Mar; 10 (1): 83–98. doi: 10.1002/jrsm.1316. Epub 2018 Sep 6. PMID: 30067315</mixed-citation></citation-alternatives></ref><ref id="cit10"><label>10</label><citation-alternatives><mixed-citation xml:lang="ru">Rücker G., Schwarzer G., Carpenter J. R., Schumacher M. Undue reliance on I(2) in assessing heterogeneity may mislead. BMC Med Res Methodol. 2008 Nov 27; 8: 79. doi: 10.1186/1471-2288-8-79. PMID: 19036172</mixed-citation><mixed-citation xml:lang="en">Rücker G., Schwarzer G., Carpenter J. R., Schumacher M. Undue reliance on I(2) in assessing heterogeneity may mislead. BMC Med Res Methodol. 2008 Nov 27; 8: 79. doi: 10.1186/1471-2288-8-79. PMID: 19036172</mixed-citation></citation-alternatives></ref><ref id="cit11"><label>11</label><citation-alternatives><mixed-citation xml:lang="ru">Higgins J. P., Thompson S. G. Quantifying heterogeneity in a meta-analysis. Stat Med. 2002 Jun 15; 21 (11): 1539–1558. doi: 10.1002/sim.1186. PMID: 12111919</mixed-citation><mixed-citation xml:lang="en">Higgins J. P., Thompson S. G. Quantifying heterogeneity in a meta-analysis. Stat Med. 2002 Jun 15; 21 (11): 1539–1558. doi: 10.1002/sim.1186. PMID: 12111919</mixed-citation></citation-alternatives></ref><ref id="cit12"><label>12</label><citation-alternatives><mixed-citation xml:lang="ru">Balduzzi S., Rücker G., Schwarzer G. How to perform a meta-analysis with R: a practical tutorial. Evid Based Ment Health. 2019 Nov; 22 (4): 153–160. doi: 10.1136/ebmental-2019-300117. Epub 2019 Sep 28. PMID: 31563865</mixed-citation><mixed-citation xml:lang="en">Balduzzi S., Rücker G., Schwarzer G. How to perform a meta-analysis with R: a practical tutorial. Evid Based Ment Health. 2019 Nov; 22 (4): 153–160. doi: 10.1136/ebmental-2019-300117. Epub 2019 Sep 28. PMID: 31563865</mixed-citation></citation-alternatives></ref></ref-list><fn-group><fn fn-type="conflict"><p>The authors declare that there are no conflicts of interest present.</p></fn></fn-group></back></article>
