Альтметрия (Gl,mbymjnx)

Перейти к навигации Перейти к поиску
Оригинальный логотип из Манифеста Альтметрики[1]

В научных и научно-исследовательских публикациях альтметрия (англ. Altmetrics) — это нетрадиционная библиометрия[2], предлагаемая в качестве альтернативы[3] или дополнения[4] к более традиционным метрикам цитирования, таким как импакт-фактор и h- индекс[5].

Термин альтметрия был предложен в 2010 году[1] как обобщение используемых в то время нетрадиционных методов оценивания уровня статей[6] и имеет свои корни в хештеге #altmetrics. Хотя понятие альтметрии часто рассматривается как метрики для оценки статей, но в то же время альтметрия может применяться к людям, журналам, книгам, наборам данных, презентациям, видео, репозиториям исходного кода, веб-страницам и т. д.

Altmetrics используют открытые API на разных платформах для сбора данных с помощью открытых скриптов и алгоритмов. Первоначально альтметрика не учитывала количество цитирований[7], но оценивала влияние ученых с помощью онлайн-исследований, на основе данных социальных сетей, онлайн-СМИ, онлайн-справочные менеджеры и так далее[8][9]. Альтметрика может быть использована для: фильтрации исследований[1] и оценки исследователей, отбора заявок на гранты[10][11], для ранжирования недавно опубликованных статей в списке академических баз данных и поисковых систем[англ.][12].

Запуск web 2.0 изменил подход к поиску публикации внутри академического сообщества или за его пределами, но также дало новые способы измерения научного воздействия работы в «широком» смысле. Традиционные метрики остаются значимыми, но их может быть недостаточно для измерения новых работ, особенно за пределами экспертной оценки[1].

Такие проекты, как ImpactStory[13][14] и различные компании, включая Altmetric[13][15] и Plum Analytics[13][16][17][18], рассчитывают альтметрию. Несколько издателей начали предоставлять такую информацию читателям, в том числе BioMed Central, Public Library of Science (PLOS)[19][20], Frontiers[21], Nature Publishing Group[22], и Elsevier[23][24].

В 2008 году журнал Medical Internet Research начал систематически собирать твиты о своих статьях[25]. Начиная с марта 2009 года Публичная научная библиотека также ввела метрики на уровне статей для всех статей[19][20][26]. Спонсоры начали проявлять интерес к альтернативным метрикам[27], включая Совет по медицинским исследованиям Великобритании[28]. Альтметрики были использованы в приложениях для обзора продвижения исследователями.[29] Кроме того, несколько университетов, включая Университет Питтсбурга, экспериментируют с альтметрией на уровне институтов[29].

Тем не менее, сложность попадания статьи в верхние квантили явно не достаточна[30], что объясняется недостатком источников альтметрии, чтобы дать сбалансированную картину воздействия для большинства работ.

Важное значение при определении относительного влияния работы, это сервис, который рассчитывает статистику альтметрии, и он нуждается в значительной базе знаний. В следующей таблице показано количество работ, покрываемых их услугами (по состоянию на 2016 год):

Веб-сайт Количество работ Ист.
Plum Analytics ~ 29,7 миллионов [31]
Altmetric.com > 5 миллионов [32]
ImpactStory ~ 1 миллион [33]

Виды альт-метрик

[править | править код]

Альтметрики — это очень широкая группа метрик, фиксирующих различные части воздействия, которое может оказать бумага или произведение. Классификация альтметрик была предложена ImpactStory в сентябре 2012 года[34] и публичная библиотека наук использует очень похожую классификацию:[35]

  • Просмотры — просмотр HTML и загрузка PDF;
  • Обсуждения — комментарии в рамках журналов, научных блогов, Википедии, Twitter, Facebook и других социальных сетей;
  • Сохранения — Mendeley, CiteULike и другие социальные закладки;
  • Цитирование — цитаты в научной литературе, отслеживаемые Web of Science, Scopus, Crossref и другими;
  • Рекомендации — например, используется F1000Prime[36].

Одной из первых альтернативных метрик, которая была использована, было количество просмотров работ. Традиционно автор хотел бы публиковаться в журнале с высокой подпиской, поэтому многие люди будут иметь доступ к исследованию. С внедрением веб-технологий стало возможным фактически посчитать, как часто просматривается одна статья. Как правило, издатели считают количество представлений HTML и представлений PDF. Ещё в 2004 году BMJ опубликовал количество просмотров своих статей, которое, как было установлено, было несколько связано с цитатами[37].

Обсуждения

[править | править код]

Обсуждение работы можно рассматривать как метрику, отражающую потенциальное влияние статьи. Типичные источники данных для расчета этого показателя включают страницы Facebook, Google+, Twitter, Science Blogs и Wikipedia.

Некоторые исследователи считают упоминания в социальных сетях цитатами. Например, цитаты на платформе социальных сетей можно разделить на две категории: внутренние и внешние. Например, первый включает ретвиты, последний относится к твитам, содержащим ссылки на внешние документы[38]. Корреляция между упоминаниями, симпатиями и цитированием в первичной научной литературе была изучена, и в лучшем случае была обнаружена небольшая корреляция, например, для статей в PubMed[4]. В 2008 году Journal of Medical Internet Research[англ.] начал публиковать мнения и твиты. Эти «твиты» оказались хорошим показателем цитируемых статей, что побудило автора предложить «фактор Twimpact», который представляет собой количество твитов, полученных за первые семь дней публикации, а также Twindex, который процентиль ранга фактора Twimpact статьи[25]. Однако, если внедрить использование фактора Twimpact, исследования показывают, что оценки весьма специфичны для каждого предмета, и в результате следует сравнивать факторы Twimpact между бумагами одной и той же предметной области[25]. Хотя прошлые исследования в литературе продемонстрировали корреляцию между твиттерами и цитатами, это не причинно-следственная связь. На данный момент неясно, происходят ли более высокие цитирования в результате более пристального внимания средств массовой информации через твиттер и другие платформы, или это просто отражает качество самой статьи[25].

Недавние исследования, проведенные на индивидуальном уровне, а не на уровне статей, поддерживают использование платформ Twitter и социальных сетей в качестве механизма повышения отдачи[39]. Результаты показывают, что исследователи, чьи работы упоминаются в твиттере, имеют значительно более высокие h-индексы, чем исследователи, чьи работы не упоминались в твиттере. В исследовании подчеркивается роль использования основанных на обсуждении платформ, таких как твиттер, для повышения ценности традиционных метрик воздействия.

Помимо Twitter и других потоков, ведение блога показало себя как мощную платформу для обсуждения литературы. Существуют различные платформы, которые отслеживают, о каких статьях пишут в блогах. Altmetric.com использует эту информацию для расчета метрик, в то время как другие инструменты просто сообщают, где происходит обсуждение, например ResearchBlogging и Chemical blogspace.

Рекомендации

[править | править код]

Платформы могут даже предоставлять формальный способ ранжирования или рекомендовать другие документы, например, как F1000Prime[40].

Сохранения

[править | править код]

Также полезно подсчитать, сколько раз страница была сохранена или добавлена в закладки. Считается, что люди обычно выбирают закладки для страниц, которые имеют большое отношение к их собственной работе, и в результате закладки могут быть дополнительным индикатором воздействия для конкретного исследования. Поставщики такой информации включают специализированные службы социальных закладок, такие как CiteULike и Mendeley .

Цитирования

[править | править код]

Упомянутая категория является суженным определением, отличным от обсуждения. Помимо традиционных метрик, основанных на цитировании в научной литературе, таких как полученные из Google Scholar, Crossref, PubMed Central и Scopus, в альтметриках также используются ссылки во вторичных источниках знаний. Например, ImpactStory подсчитывает, сколько раз на статью ссылалась Википедия[41]. Plum Analytics также предоставляет метрики для различных научных публикаций[42], стремясь отслеживать продуктивность исследований. PLOS также является инструментом, который может использоваться для использования информации о взаимодействии[42].

Интерпретация

[править | править код]

Существует определённая дискуссия относительно достоверности и согласованности альтметрики[43], также активно обсуждается интерпретация альтметрики.

Сторонники альтметрии считают, что многие из метрик изначально показывают внимание или вовлеченность, а не влияние на работы на науку.[35] Даже метрики, основанные на цитировании, не указывают, означает ли высокий балл положительное влияние на науку. То есть документы также цитируются в статьях, которые не согласуются с цитируемым документом, — проблема, например, решаемая проектом онтологии цитирования[44].

Альтметрию можно было бы более правильно интерпретировать, предоставляя подробный контекст и качественные данные. Например, чтобы оценить научный вклад научной работы в формирование политики с помощью альтметрики, в качестве доказательства должны быть предоставлены качественные данные, например, кто цитирует[45] и в какой степени онлайн-цитирование имеет отношение к выработке политики[46].

Что касается относительно низкой корреляции между традиционными метриками и альтметриками, альтметрика скорее может измерять совокупное/комплексное влияние ученого. Альтметрика предоставляет удобные инструменты для оценки исследователей и учреждений, чтобы отслеживать влияние их работ и избегать неправильных интерпретаций[4].

Полезность метрик для оценки научного вклада является спорной[47][48]. Исследования показали, что онлайн-шум может усилить влияние других форм охвата на научное влияние исследователей. Для ученых, которые упоминаются в Твиттере, их общаются с журналистами и не-учеными, это приводит к завышенным оценкам h-индекс, тогда как не группа ученых, которая занималась непосредственно и исключительно исследованиями по этой же оценке провалилась[39]. Альтметрика расширяет измерение влияния ученых для сдерживания быстрого освоения, более широкого круга аудитории и разнообразных результатов исследований. Кроме того, сообщество демонстрирует явную потребность: спонсоры требуют измеримых результатов от воздействия своих расходов, таких как участие общественности.

Тем не менее, существуют ограничения, которые влияют на полезность из-за технических проблем и систематического смещения конструкции, таких как качество данных, неоднородность и конкретные зависимости.[47] С точки зрения технических проблем, данные могут быть неполными, потому что сложно собрать результаты онлайн-исследований без прямых ссылок на их упоминания (например, видео) и идентифицировать различные версии одной исследовательской работы.

Что касается систематического смещения, как и других метрик, то альтметрики склонны к самоцитированию, играм и другим механизмам для усиления видимого воздействия. Альтметрики могут быть игровыми, например, лайки и упоминания можно купить[49]. Альтметрию может быть сложнее стандартизировать, чем цитаты. Одним из примеров является количество твитов, связанных с бумагой, где число может широко варьироваться в зависимости от того, как собраны твиты[50]. Кроме того, популярность в Интернете может не совпадать с научными ценностями. Некоторые популярные онлайн-цитаты могут быть далеки от ценности создания дальнейших научных открытий, в то время как некоторые теоретические или ориентированные на интересы меньшинств исследования, имеющие большое научное значение, могут быть изолированы в Интернете[25]. Например, лучшие статьи в биомедицине, опубликованные в твиттере в 2011 году, были связаны с любопытным или забавным контентом, потенциальными приложениями для здоровья и катастрофой[4].

Альтметрика для более статей, вышедших позже, может быть выше из-за роста социальной сети, поскольку статьи упоминаются в большинстве случаев тогда, когда они публикуются[51]. В результате, возможно, будет несправедливо сравнивать оценки альтметрики статей, если они не были опубликованы в одно и то же время. Исследователи разработали тест, чтобы избежать предвзятого отношения к использованию, сравнивая метрики статьи с двумя статьями, опубликованными непосредственно до и после неё[51].

Следует иметь в виду, что метрики являются лишь одним из результатов отслеживания того, как исследования распространяются и используются. Альтметрию следует тщательно интерпретировать, чтобы преодолеть предвзятость. Ещё более информативно, чем знать, как часто цитируется статья, какие статьи цитируют её. Эта информация позволяет исследователям увидеть, как их работа влияет на область (или нет). Поставщики метрик также обычно предоставляют доступ к информации, из которой были рассчитаны метрики. Например, Web of Science показывает, какие статьи цитируют, ImpactStory показывает, какие страницы Википедии ссылаются на статью, а CitedIn показывает, какие базы данных извлекли данные из статьи[52].

Другая проблема, связанная с альтметрикой или любыми метриками, заключается в том, как университеты или учреждения используют метрики для ранжирования своих сотрудников при принятии решений о повышении или финансировании[53] и цель должна быть ограничена измерением вовлеченности[54].

В целом результаты онлайн-исследований очень незначительны и варьируются между различными дисциплинами[4][25]. Это явление может соответствовать использованию социальных сетей среди ученых. Опросы показали, что почти половина их респондентов придерживались неоднозначного отношения к влиянию социальных сетей на академическое влияние и никогда не заявляли о своей исследовательской работе в социальных сетях[55]. Со временем вероятно, будут приняты последовательные подходы к альтметрии по всем дисциплинам и учреждениям.

Текущие исследования

[править | править код]

Конкретные варианты использования и характеристики — это активная область исследований в области библиометрии, предоставляющая столь необходимые данные для измерения воздействия самой альтметрии. Публичная научная библиотека имеет коллекцию альтметрики[56] и как Information Standards Quarterly и Aslib Journal of Information Management недавно опубликовали специальные выпуски по альтметрии[57][58]. Серия статей, в которых подробно рассматриваются альтметрики, была опубликована в конце 2015 года[59][60][61].

Существуют другие исследования, в которых рассматривается обоснованность одной альтметрии[4][25] и проводится сравнение на разных платформах[51]. Исследователи изучают корреляцию между альтметрикой и традиционными цитатами как критерий достоверности. Они предполагают, что положительная и значимая корреляция показывает точность альтметрии для измерения научного воздействия в виде цитат[51]. Низкая корреляция (менее 0,30[4]) приводит к выводу, что альтметрия играет дополнительную роль в измерении воздействия на ученых. Тем не менее, остается неясным, какие альтметрики являются наиболее ценными и какая степень корреляции между двумя метриками оказывает более сильное влияние на измерение. Кроме того, сам тест достоверности также сталкивается с некоторыми техническими проблемами. Например, репликация сбора данных невозможна из-за мгновенно меняющихся алгоритмов поставщиков данных.[62]

Примечания

[править | править код]
  1. 1 2 3 4 Jason; Priem. Altmetrics: A manifesto (v 1.01) (англ.) // Altmetrics. — 2011. — 28 September. Архивировано 21 апреля 2016 года.
  2. PLOS Collections. Public Library of Science (PLOS). — «Altmetrics is the study and use of non-traditional scholarly impact measures that are based on activity in web-based environments». Дата обращения: 26 мая 2019. Архивировано 20 ноября 2019 года.
  3. «The „alt“ does indeed stand for „alternative“» Jason Priem, leading author in the Altmetrics Manifesto Архивная копия от 21 апреля 2016 на Wayback Machine -- see comment 592 Архивная копия от 21 апреля 2016 на Wayback Machine
  4. 1 2 3 4 5 6 7 Stefanie; Haustein. Tweeting biomedicine: An analysis of tweets and citations in the biomedical literature (англ.) // Journal of the Association for Information Science and Technology[англ.] : journal. — 2014. — 1 April (vol. 65, no. 4). — P. 656—669. — ISSN 2330-1643. — doi:10.1002/asi.23101. — arXiv:1308.1838.
  5. Janica; Chavda. Measuring research impact: bibliometrics, social media, altmetrics, and the BJGP (англ.) // British Journal of General Practice[англ.] : journal. — 2015. — 30 December (vol. 66, no. 642). — P. e59—e61. — doi:10.3399/bjgp16X683353. — PMID 26719483. Архивировано 19 июля 2018 года.
  6. Binfield. Article-Level Metrics at PLoS - what are they, and why should you care? (Video). University of California, Berkeley (9 ноября 2009). Дата обращения: 26 мая 2019. Архивировано 7 октября 2021 года.
  7. Bartling, Sönke; Friesike, Sascha. Opening Science: The Evolving Guide on How the Internet Is Changing Research, Collaboration and Scholarly Publishing (англ.). — Cham: Springer International Publishing, 2014. — P. 181. — ISBN 978-3-31-900026-8. — doi:10.1007/978-3-319-00026-8.. — «Altmetrics and article-level metrics are sometimes used interchangeably, but there are important differences: article-level metrics also include citations and usage data; ...».
  8. Paul; Mcfedries. Measuring the impact of altmetrics [Technically Speaking(англ.) // IEEE Spectrum : magazine. — 2012. — August (vol. 49, no. 8). — P. 28. — ISSN 0018-9235. — doi:10.1109/MSPEC.2012.6247557. Архивировано 16 июня 2018 года.
  9. Finbar; Galligan. Altmetrics: Rethinking the Way We Measure (англ.) // Serials Review. — 2013. — March (vol. 39, no. 1). — P. 56—61. — doi:10.1016/j.serrev.2013.01.003.
  10. David; Moher. Assessing scientists for hiring, promotion, and tenure (англ.) // PLOS Biology : journal. — 2018. — 29 March (vol. 16, no. 3). — P. e2004089. — ISSN 1545-7885. — doi:10.1371/journal.pbio.2004089. — PMID 29596415.
  11. Nariani; Rajiv. Supplementing Traditional Ways of Measuring Scholarly Impact: The Altmetrics Way (англ.) : journal. — 2017. — 24 March.
  12. Mehrazar, Maryam; Kling, Christoph Carl; Lemke, Steffen; Mazarakis, Athanasios; Peters, Isabella. Can We Count on Social Media Metrics? First Insights into the Active Scholarly Use of Social Media. — Proceedings of the 10th ACM Conference on Web Science: ACM, 2018. — С. 215. — ISBN 9781450355636. — ISBN 1450355633. — doi:10.1145/3201064.3201101.
  13. 1 2 3 Jean; Liu. New perspectives on article-level metrics: developing ways to assess research uptake and impact online (англ.) // Insights : journal. — 2013. — 8 July (vol. 26, no. 2). — doi:10.1629/2048-7754.79.
  14. Impactstory: About. ImpactStory. Дата обращения: 26 мая 2019. Архивировано 23 октября 2018 года.
  15. Altmetric: About us. Altmetric (2 июня 2015). Дата обращения: 26 мая 2019. Архивировано 26 мая 2019 года.
  16. J. Michael; Lindsay. PlumX from Plum Analytics: Not Just Altmetrics (англ.) // Journal of Electronic Resources in Medical Libraries. — 2016. — 15 April (vol. 13, no. 1). — P. 8—17. — doi:10.1080/15424065.2016.1142836.
  17. Plum Analytics: About Us. Plum Analytics. Дата обращения: 26 мая 2019. Архивировано 15 января 2020 года.
  18. Plum Analytics: About Altmetrics. Plum Analytics. Дата обращения: 26 мая 2019. Архивировано 9 августа 2013 года.
  19. 1 2 Martin; Fenner. Article-Level Metrics Information (англ.) // Lagotto. — 2005. — 1 July. Архивировано 22 сентября 2009 года.
  20. 1 2 A Comprehensive Assessment of Impact with Article-Level Metrics (ALMs). Public Library of Science (PLOS). Дата обращения: 26 мая 2019. Архивировано из оригинала 30 апреля 2019 года.
  21. About Frontiers: Academic Journals and Research Community. Frontiers. Дата обращения: 26 мая 2019. Архивировано 30 июля 2017 года.
  22. Baynes. Article level metrics on nature.com. Nature (25 октября 2012). Дата обращения: 26 мая 2019. Архивировано 2 июня 2017 года.
  23. Reller, Tom (2013-07-15). "Elsevier Announces 2012 Journal Impact Factor Highlights". MarketWatch. Архивировано 16 июня 2018. Дата обращения: 26 мая 2019.
  24. Beatty. New Scopus Article Metrics: A better way to benchmark articles | Elsevier Scopus Blog. Scopus (29 июля 2015). Дата обращения: 26 мая 2019. Архивировано 3 декабря 2020 года.
  25. 1 2 3 4 5 6 7 G; Eysenbach. Can tweets predict citations? Metrics of social impact based on Twitter and correlation with traditional metrics of scientific impact (англ.) // Journal of Medical Internet Research[англ.] : journal. — 2011. — 19 December (vol. 13, no. 4). — P. e123. — doi:10.2196/jmir.2012. — PMID 22173204.
  26. Martin; Fenner. Public Library of Science (PLOS) (англ.) // Lagotto. Архивировано 29 мая 2019 года.
  27. Heather; Piwowar. Altmetrics: Value all research products (англ.) // Nature : journal. — 2013. — 9 January (vol. 493, no. 159). — P. 159. — doi:10.1038/493159a. — Bibcode2013Natur.493..159P. — PMID 23302843.
  28. Ian; Viney. Altmetrics: Research council responds (англ.) // Nature : journal. — 2013. — 13 February (vol. 494, no. 7436). — P. 176. — doi:10.1038/494176c. — Bibcode2013Natur.494..176V. — PMID 23407530.
  29. 1 2 Roberta; Kwok. Research impact: Altmetrics make their mark (англ.) // Nature : journal. — 2013. — 21 August (vol. 500, no. 7463). — P. 491—493. — doi:10.1038/nj7463-491a.
  30. Kelly. Altmetric rankings. Infiniflux (22 августа 2013). Дата обращения: 26 мая 2019. Архивировано 7 февраля 2017 года.
  31. Plum Analytics: Coverage. Дата обращения: 31 марта 2017. Архивировано 31 марта 2017 года.
  32. Altmetric Engineering. Altmetric: the story so far (англ.) // Figshare. — 2016. — doi:10.6084/m9.figshare.2812843.v1. Архивировано 11 февраля 2020 года.
  33. @Impactstory. As of today, we're now tracking #altmetrics on a cool one million publications! #andGrowingFast. Twitter (14 мая 2016). Дата обращения: 26 мая 2019. Архивировано 16 апреля 2020 года.
  34. A new framework for altmetrics. ImpactStory Blog (14 сентября 2012). Дата обращения: 26 мая 2019. Архивировано 23 сентября 2013 года.
  35. 1 2 J.; Lin. Altmetrics in Evolution: Defining and Redefining the Ontology of Article-Level Metrics (англ.) // Information Standards Quarterly : journal. — 2013. — Vol. 25, no. 2. — P. 20. — doi:10.3789/isqv25no2.2013.04.
  36. F1000Prime. Дата обращения: 26 мая 2019. Архивировано 21 марта 2019 года.
  37. T. V; Perneger. Relation between online "hit counts" and subsequent citations: Prospective study of research papers in the BMJ (англ.) // BMJ : journal. — 2004. — Vol. 329, no. 7465. — P. 546—547. — doi:10.1136/bmj.329.7465.546. — PMID 15345629.
  38. Weller, Katrin. Citations in Web 2.0 (англ.). — 2012. Архивировано 13 апреля 2018 года.
  39. 1 2 Xuan; Liang. Building Buzz: (Scientists) Communicating Science in New Media Environments (англ.) // Journalism and Mass Communication : journal. — 2014.
  40. Jennifer; Lin. The many faces of article-level metrics (англ.) // Bulletin of the American Society for Information Science and Technology : journal. — 2013. — 1 April (vol. 39, no. 4). — P. 27—30. — ISSN 1550-8366. — doi:10.1002/bult.2013.1720390409.
  41. FAQ: which metrics are measured? ImpactStory. Дата обращения: 26 мая 2019. Архивировано 26 марта 2016 года.
  42. 1 2 Medical Writing and Research Methodology for the Orthopaedic Surgeon (англ.).
  43. Jump, Paul (2012-08-23). "Research Intelligence - Alt-metrics: fairer, faster impact data?". Times Higher Education. Архивировано 10 февраля 2015. Дата обращения: 26 мая 2019.
  44. D.; Shotton. CiTO, the Citation Typing Ontology (англ.) // Journal of Biomedical Semantics[англ.] : journal. — 2010. — Vol. 1, no. Suppl 1. — P. S6—S1. — doi:10.1186/2041-1480-1-S1-S6. — PMID 20626926.
  45. Can We Count on Social Media Metrics? First Insights into the Active Scholarly Use of Social Media.
  46. "How to Use Altmetrics to Showcase Engagement Efforts for Promotion and Tenure". Altmetric (англ.). 2016-10-18. Архивировано 13 апреля 2018. Дата обращения: 12 апреля 2018.
  47. 1 2 Mike Buschman (April-May 2013). "Are Alternative Metrics Still Alternative?". asis&t Bulletin. Архивировано 11 марта 2018. Дата обращения: 26 мая 2019.{{cite news}}: Википедия:Обслуживание CS1 (формат даты) (ссылка)
  48. M. K.; Cheung. Altmetrics: Too soon for use in assessment (англ.) // Nature. — 2013. — Vol. 494, no. 7436. — P. 176. — doi:10.1038/494176d. — Bibcode2013Natur.494..176C. — PMID 23407528.
  49. J. Beall, Article-Level Metrics: An Ill-Conceived and Meretricious Idea, 2013, Archived copy. Дата обращения: 10 августа 2013. Архивировано 6 августа 2013 года.
  50. S.; Chamberlain. Consuming Article-Level Metrics: Observations and Lessons (англ.) // Information Standards Quarterly : journal. — 2013. — Vol. 25, no. 2. — P. 4—13. — doi:10.3789/isqv25no2.2013.02.
  51. 1 2 3 4 M.; Thelwall. Do Altmetrics Work? Twitter and Ten Other Social Web Services (англ.) // PLoS ONE : journal. — 2013. — Vol. 8, no. 5. — P. e64841. — doi:10.1371/journal.pone.0064841. — Bibcode2013PLoSO...864841T. — PMID 23724101.
  52. A.; Waagmeester. Measuring impact in online resources with the CInumber (the CitedIn Number for online impact) (англ.) // Nature Precedings[англ.] : journal. — 2011. — doi:10.1038/npre.2011.6037.1.
  53. David Colquhoun, How should universities be run to get the best out of people? Архивная копия от 22 августа 2014 на Wayback Machine, 2007
  54. Matthews. Altmetrics risk becoming part of problem, not solution, warns academic. Times Higher Education (7 октября 2015). Дата обращения: 26 мая 2019. Архивировано 6 ноября 2018 года.
  55. "Reports". Science, Media and the Public (англ.). 2014-09-11. Архивировано 12 апреля 2018. Дата обращения: 12 апреля 2018.
  56. Jason; Priem. The Altmetrics Collection (англ.) // PLoS ONE : journal. — 2012. — Vol. 7, no. 11. — P. e48753. — doi:10.1371/journal.pone.0048753. — Bibcode2012PLoSO...748753P. — PMID 23133655.
  57. Topic: Altmetrics (англ.) // Information Standards Quarterly (ISQ). — Vol. 25. — doi:10.3789/isqv25no2.2013. Архивировано 3 августа 2013 года.
  58. Stefanie; Haustein. Social Media Metrics in Scholarly Communication: exploring tweets, blogs, likes and other altmetrics (англ.) // Aslib Journal of Information Management : journal. — 2015. — Vol. 67. — ISSN 2050-3806. — doi:10.1108/ajim-03-2015-0047. — arXiv:1504.01877.
  59. Mike A.; Thelwall. Web indicators for research evaluation, part 1: Citations and links to academic articles from the web (англ.) // El Profesional de la Información : journal. — 2015. — Vol. 24, no. 5. — P. 587—606. — doi:10.3145/epi.2015.sep.08. Архивировано 21 сентября 2017 года.
  60. Mike A.; Thelwall. Web indicators for research evaluation, part 2: Social media metrics (англ.) // El Profesional de la Información : journal. — 2015. — Vol. 24, no. 5. — P. 607—620. — doi:10.3145/epi.2015.sep.09.
  61. Kayvan; Kousha. Web indicators for research evaluation, part 3: Books and non-standard outputs (англ.) // El Profesional de la Información : journal. — 2015. — Vol. 24, no. 6. — P. 724—736. — doi:10.3145/epi.2015.nov.04.
  62. Jean; Liu. Five challenges in altmetrics: A toolmaker's perspective (англ.) // Bulletin of the American Society for Information Science and Technology : journal. — 2013. — 1 April (vol. 39, no. 4). — P. 31—34. — ISSN 1550-8366. — doi:10.1002/bult.2013.1720390410.