PREDICTION OF RECURRENCE-FREE SURVIVAL IN PATIENTS WITH RENAL CELL CARCINOMA AND TUMOR THROMBOSIS OF THE RENAL AND INFERIOR VENA CAVA OF LEVELS I–II USING AN EXTENDED COX MODEL AND MACHINE LEARNING METHODS
- Authors: Trukhacheva N.1, Mirzabekov M.K.2, Tikhonsky N.D.3, Scholnik M.I.4, Bogomolov O.A.4
-
Affiliations:
- "Altai State Medical University" of the Ministry of Health of the Russian Federation
- Federal State Budgetary Institution "RSC for Radiology and Surgical Technologies named after Acad. A.M. Granov" of the Ministry of Health of Russia
- Altai State Medical University
- ФГБУ «РНЦРХТ им. ак. А.М. Гранова» Минздрава России
- Section: Original study articles
- URL: https://innoscience.ru/2500-1388/article/view/686422
- DOI: https://doi.org/10.35693/SIM686422
- ID: 686422
Cite item
Full Text
Abstract
The aim of this study was to compare the predictive accuracy of the classical Cox regression and the neural network model DeepSurv in predicting recurrence-free survival in patients with renal cell carcinoma (RCC) and tumor thrombosis of levels I–II after radical surgical treatment. The retrospective study included 100 patients who underwent nephrectomy with thrombectomy. Model evaluation was based on the concordance index (C-index) and interpreted using SHAP analysis. The DeepSurv model demonstrated higher accuracy on the test sample compared to the classical Cox model and also identified the most significant risk predictors, including tumor size, ISUP grade, and level of thrombosis. The obtained data confirm the feasibility of using machine learning methods for personalized prognosis and optimization of monitoring strategies in patients with RCC.
Full Text
Цель: Сравнить прогностическую точность регрессии Кокса и методов машинного обучения (ML) в отношении безрецидивной выживаемости пациентов с местно-распространенным почечно-клеточным раком после радикального лечения, Дополнительно — исследовать расширенную модель Кокса, в которой функция риска формируется с использованием нейросетевого аппроксиматора (DeepSurv).
Методы: В данном исследовании был проведён ретроспективный анализ данных пациентов с диагнозом почечно-клеточный рак, перенесших радикальную нефрэктомию с тромбэктомией из почечной и нижней полой вены в период с 2007 по 2024 годы в ФГБУ «РНЦРХТ им. акад. А.М. Гранова». В исследование включены 100 пациентов (54 мужчины и 46 женщин). Медианный возраст составил 61,5 года (IQR: 59,7–63). Из общего числа наблюдений в 41 случае было зафиксировано прогрессирование заболевания, в остальных 59 случаях — данные были цензурированные.
Критериями исключения служили: опухолевый тромбоз III–IV уровней (по классификации Mayo), тяжёлые интраоперационные осложнения, потребовавшие конверсию доступа, а также отсутствие морфологической верификации опухоли. Пациенты, у которых не было зарегистрировано прогрессирования к моменту завершения наблюдения, рассматривались как цензурированные случаи.
Статистический анализ включал три последовательных этапа:
В ходе первичного анализа была проведена оценка безрецидивной выживаемости с использованием метода Каплана–Мейера и лог-рангового критерия для сравнения подгрупп. Также была построена серия однофакторных моделей регрессии Кокса, что позволило предварительно оценить значимость клинико-морфологических предикторов [1].
На этапе многофакторного анализа была разработана классическая модель пропорциональных рисков Кокса, в которую вошли клинически значимые предикторы, а также те, у которых p < 0,1 по результатам одномерного анализа. Статистическая значимость факторов оценивалась с помощью теста Вальда, а анализ проводился с использованием программных пакетов MedCalc и Statistica.
На финальном этапе были построены и сравнены две модели выживаемости: классическая линейная модель Кокса и нейросетевая модель DeepSurv [2]. Обе модели были обучены только на предикторах, которые оказались статистически значимыми в многофакторном анализе (p < 0,05). DeepSurv реализован как многослойная нейронная сеть, аппроксимирующая функцию риска.
Для оценки качества линейной модели Кокса использовались: метрика общей подгонки модели (Overall Model Fit), логарифмическое отношение правдоподобия (Likelihood Ratio Test) и критерий Вальда. Для сравнения линейной модели Кокса и модели DeepSurv на финальном этапе использовался индекс конкордации (C-index) измеряющий способность модели правильно ранжировать пациентов по риску прогрессирования. [3]
Для интерпретации результатов модели DeepSurv был использован метод SHAP, позволяющий количественно оценить вклад каждого признака в индивидуальный прогноз и выявить наиболее значимые предикторы риска в контексте нейросетевой модели.[4]
Обоснование
Прогнозирование безрецидивной выживаемости у пациентов с почечно-клеточным раком после радикального хирургического вмешательства остаётся важной задачей клинической онкоурологии. Точность оценки индивидуального риска прогрессирования определяет как выбор схемы послеоперационного наблюдения, так и необходимость адъювантной терапии.
Традиционно для анализа времени до события в медицинских исследованиях применяется модель пропорциональных рисков Кокса, основанная на предположении линейного влияния ковариат на логарифм функции риска (1).[1]
h(t|X) = h0(t) ebiXi (1)
Где h0(t)- базовая функция риска; biXi - линейная комбинация предикторов.
Однако классическая модель Кокса имеет ряд ограничений, особенно в контексте сложных биомедицинских данных. Основное из них — предположение о линейности и аддитивности воздействия ковариат на логарифм функции риска. Это ограничивает её способность моделировать нелинейные или взаимодействующие эффекты, что критически важно при анализе гетерогенных онкологических популяций, таких как пациенты с опухолевым тромбозом венозной системы.
С развитием методов машинного обучения появилась возможность гибко аппроксимировать зависимость функции риска от предикторов без необходимости строгих предпосылок о её форме. В частности, нейросетевая архитектура DeepSurv представляет собой расширение модели Кокса, в котором линейный прогностический индекс заменяется выходом многослойной нейронной сети:
h(t) = h0 (t) eg(wj,xi) (4)
Где h0(t) - базовая функция риска ; g(wj,Xi)- результат работы нейросети как функции над предикторами Xi и весовыми коэффициентами wj . Такая модель сохраняет интерпретируемую структуру функции риска, но обладает существенно большей гибкостью в учёте нелинейных и высокоразмерных связей между переменными.
Применение DeepSurv позволяет выявлять скрытые зависимости, неочевидные для классической регрессии Кокса, особенно при наличии сложных клинико-морфологических взаимодействий. При этом важным аспектом остаётся вопрос интерпретируемости. В данной работе дополнительно использован метод SHAP (SHapley Additive exPlanations), позволяющий количественно оценить вклад каждого признака в предсказанный риск [4].
Таким образом, возможно провести сравнение традиционной линейной модели Кокса и её нейросетевого расширения на единой клинической выборке. Это позволяет не только оценить потенциал методов машинного обучения в задачах прогноза выживаемости, но и исследовать возможности интерпретации результатов в клинически значимом контексте.
Результаты
На первом этапе проведен одномерный анализ предикторов методом пропорциональной регрессии Кокса. Статистически значимыми факторами, ассоциированными с уменьшением времени до прогрессирования, оказались: степень злокачественности по ISUP (p = 0,0058), размер опухоли (p < 0,0001), поражение лимфатических узлов (p = 0,0070), венозная инвазия (p = 0,0074), наличие анемии (p = 0,0003), тромбоцитоз (p = 0,0008), индекс коморбидности Charlson (p = 0,0105), стадия заболевания (p < 0,0001), а также уровень опухолевого тромбоза (уровень 1: p = 0,0016; уровень 2: p < 0,0001). Некоторые переменные, такие как возраст и артериальная гипертензия, статистически значимого влияния не продемонстрировали и были исключены из последующего анализа (табл. 1).
Таблица 1 — Результаты однофакторной модели Кокса
Table 1 — Results of the Cox Univariate Model
На втором этапе была построена многофакторная модель Кокса, включающая предикторы, обладающие клинической значимостью и p < 0,1 по результатам одномерного анализа. Итоговая модель оказалась статистически значимой (χ² = 70,686, p < 0,0001). Независимое влияние на снижение безрецидивной выживаемости сохраняли: степень ISUP (p = 0,0472), морфологический тип опухоли (p = 0,0195), размер опухоли (p = 0,0031), а также уровень опухолевого тромбоза (уровень 1: p = 0,0236; уровень 2: p = 0,0406) (табл. 2). Некоторые переменные теряли значимость, вероятно, вследствие мультиколлинеарности и возможных нелинейных взаимодействий между признаками.
Таблица 2 — Коэффициенты и стандартные ошибки в многофакторной
Table 2 — Coefficients and Standard Errors in the Multivariate Model
Для сравнения прогностической точности моделей выживаемости вся выборка была случайным образом разделена в соотношении 80:20 на обучающую (n = 80) и тестовую (n = 20) подвыборки. На основе обучающей подвыборки были построены обе модели: классическая линейная модель Кокса и нейросетевая модель DeepSurv. Обе модели обучались на идентичном подмножестве предикторов, отобранных как статистически значимые по результатам многофакторного анализа (p < 0,05), что обеспечивало корректное сопоставление их прогностических способностей. В процессе обучения модели применялись меры по контролю переобучения.
Сравнительный анализ прогностической точности моделей выживаемости представлен в таблице 3. Линейная модель Кокса продемонстрировала высокий индекс конкордации на обучающей выборке (C-index = 0,8500) и умеренное снижение на тестовой выборке (C-index = 0,7917), что соответствует ожидаемой степени обобщающей способности для линейных моделей. Нейросетевая модель DeepSurv показала схожий уровень прогноза на обучающей выборке (C-index = 0,8537), но при этом обеспечила более высокую точность на тестовой выборке (C-index = 0,8056).
Таблица 3 — Сравнение результатов построения линейной модели Кокса и DeepsurvK
Table 3 — Comparison of the Results of the Cox Linear Model and DeepsurvK
Визуализация значимости признаков в модели DeepSurv выполнена с использованием метода SHAP (SHapley Additive exPlanations). На соответствующем графике представлены распределения SHAP-значений для каждого включённого признака. Чем выше абсолютное значение SHAP, тем больше вклад данного признака в итоговое предсказание риска. Цветовая шкала отражает значение признака у конкретного пациента: от низкого (синий) до высокого (красный). Признаки упорядочены по степени влияния на модель (рис. 1).
Рисунок 1 — Результат анализа предикторов методом SHAP
Figure 1 — Results of Predictor Analysis Using the SHAP Method
Обсуждение
В ходе исследования на клинической выборке пациентов с ПКР и венозным тромбозом мы подтвердили применимость нейросетевого расширения модели Кокса (DeepSurv) для анализа выживаемости и сравнили его с классической моделью. Оба подхода продемонстрировали высокую прогностическую точность (C-index ~0,80), причём DeepSurv показал несколько лучший результат на тестовой выборке (0,8056 против 0,7917 у модели Кокса). Этот прирост согласуется с данными литературы: современные глубокие нейронные сети для анализа выживаемости способны не уступать, а иногда и превосходить классическую регрессию Кокса по точности предсказаний [2]. В частности, в крупном многоцентровом исследовании 2139 пациентов с неметастатическим почечно-клеточным раком Byun и соавт. показали, что DeepSurv лучше предсказывает безрецидивную и специфическую выживаемость, чем модель Кокса (например, C-index для безрецидивной выживаемости 0,802 против 0,794) [5].
Главное преимущество DeepSurv заключается в снятии жёсткого предположения о линейном влиянии ковариат на лог-рисκ, присущего модели Кокса [2]. Классическая регрессия Кокса описывает логарифм базового риска как сумму произведений коэффициентов на значения предикторов, что упрощает интерпретацию, но ограничивает способность улавливать нелинейные эффекты и взаимодействия между признаками. В нашем многофакторном анализе это проявилось в том, тем, что ряд переменных, значимых в однофакторном анализе (например, анемия, тромбоцитоз), утратили значимость при одновременном включении в модель, вероятно вследствие мультиколлинеарности и перекрывающейся информации между связанными факторами. Действительно, известно, что высокая корреляция предикторов приводит к нестабильности оценок коэффициентов в регрессии Кокса и затрудняет их интерпретацию [6]. В отличие от этого, нейросетевой подход DeepSurv способен гибко аппроксимировать связь между признаками и выживаемостью без предпосылки аддитивной линейности. Многослойная сеть может выявлять скрытые нелинейные зависимости, недоступные классической модели, и тем самым учитывать мультифакторные взаимодействия (например, совокупное влияние связанных между собой клинико-морфологических показателей). Более того, внедрение методов регуляризации и снижения размерности признаков повышает устойчивость глубинных моделей к шуму и мультиколлинеарности данных [2].
Существенным вопросом при внедрении методов глубокого обучения в клиническую практику остаётся их интерпретируемость. Мы решили эту проблему посредством использования SHAP (SHapley Additive ExPlanations) – современного подхода объяснимого ИИ, позволяющего количественно оценить вклад каждого признака в предсказание модели. Результаты SHAP-анализа (рис. 1) демонстрируют, что наибольшее влияние на риск прогрессирования в модели DeepSurv оказывали размер опухоли, градация злокачественности (ISUP grade), уровень опухолевого тромбоза и гистологический подтип опухоли. Эти признаки расположены в верхней части графика и характеризуются наибольшим разбросом SHAP-значений. Вклад факторов согласуется с клиническими представлениями: так, больший размер опухоли ассоциировался с повышением риска рецидива (красные точки справа на графике), что отражает более высокую опухолевую нагрузκу и агрессивность болезни. Высокая степень злокачественности (ISUP 3–4) также существенно увеличивала предсказанный риск – данный факт соответствует известному прогностическому значению степени ядерной атипии раκа почки, при котором плохо дифференцированные опухоли имеют худшие исходы [5]. Наличие опухолевого тромба уровня II (с распространением в нижнюю полую вену) приводило к существенному увеличению риска прогрессирования по сравнению с уровнями 0–I. Это согласуется с литературными данными, согласно которым сама по себе опухолевая инвазия в венозную систему — особенно при вовлечении НПВ — является независимым неблагоприятным прогностическим фактором у пациентов с почечно-клеточным раком.
Интересно отметить, что согласно SHAP-анализу влияние тромбоза уровня I оказалось даже несколько более выраженным, чем уровень II. Это может отражать статистические особенности конкретной выборки: в нашем исследовании пациентов с уровнем II было существенно меньше (n=16), что могло привести к снижению стабильности оценок при обучении модели DeepSurv. Кроме того, опухоли с тромбозом уровня II в отдельных случаях могли сочетаться с менее агрессивными морфологическими характеристиками (например, меньшим размером или низким ISUP grade), что нейросеть могла учесть в совокупности и частично компенсировать общий риск.
По данным Park и соавт. [5], наличие венозного тромба при RCC ассоциировано с почти двукратным увеличением риска прогрессирования (HR ~1,9); в нашем исследовании более высокий уровень тромбоза аналогично ухудшал безрецидивную выживаемость. Наконец, нейросеть выявила значимость гистологического типа опухоли: хотя обычно несветлоклеточные формы (папиллярный, хромофобный и другие формы) ассоциируются с неблагоприятным исходом у RCC с тромбозом вен, в нашей модели светлоклеточный гистотип показал некоторое повышение риска, хотя и с узким разбросом SHAP.
Возможным объяснением наблюдаемого повышения риска при светлоклеточном RCC является то, что данный гистотип преобладал в исследуемой выборке, тогда как редкие формы (папиллярный, хромофобный, медуллярный) были представлены небольшой выборкой. Это снижает статистическую мощность для оценки их влияния и может приводить к заниженной оценке риска, ассоциированного с ними. Кроме того, светлоклеточные опухоли могли чаще сочетаться с другими неблагоприятными характеристиками — большим размером, высоким ISUP-грейдом, протяженным венозным тромбозом, — что в совокупности увеличивало предсказанный риск прогрессирования. Наконец, глубокая модель DeepSurv, способная учитывать нелинейные взаимодействия между переменными, могла выявить характерные комбинации признаков, более типичные именно для светлоклеточного варианта, и интерпретировать их как интегральный прогностический маркер, усиливающий вклад данного гистотипа.
В нашем исследовании выигрыш DeepSurv над классическим подходом в метрике concordance оказался относительно скромным (разница ~0,01–0,02), что может объясняться ограниченным размером выборки (n=100) и тем фактом, что ключевые драйверы риска для данной группы пациентов достаточно хорошо улавливаются и линейной моделью. Тем не менее, даже небольшое повышение точности при помощи нейросети может быть клинически значимо в пограничных ситуациях (например, при стратификации на группы высокого/низкого риска), а главное – DeepSurv послужил инструментом для более глубокого понимания структуры данных о пациенте. С другой стороны, недостатки глубокого обучения включают более сложный процесс обучения, требующий подбора гиперпараметров и зачастую – больших массивов данных для надежной генерализации. Кроме того, «чёрный ящик» нейросети затрудняет непосредственное объяснение, почему тот или иной пациент получил определённый прогноз. Мы показали, что эта проблема решаема с помощью методов SHAP, позволило сделать модель условно интерпретируемой, приблизив её по информативности к привычной врачам регрессии Кокса.
Результаты:
Полученные результаты обладают прикладным значением для клинической практики. Возможность более точной стратификации риска у пациентов с почечно-клеточным раком и опухолевым тромбозом может помочь оптимизировать тактиκу лечения и наблюдения. Во-первых, идентификация пациентов экстремально высокого риска прогрессирования после хирургического лечения позволит рассмотреть вопрос о дополнительной терапии. На сегодня стандартом при локализованном RCC с тромбозом остается радикальная нефрэктомия с тромбэктомией [7]. Тем не менее, пятилетняя выживаемость в этой группе варьирует очень сильно (от ~23% до 70% в зависимости от объёма опухоли, уровня тромбоза и сопутствующих факторов) [7]. Сейчас не существует общепринятого единого критерия, позволяющего выделить из этой неоднородной группы пациентов тех, кому действительно нужна адъювантная терапия – к примеру, иммунотерапия после операции – для улучшения исходов [8]. Наши данные показывают, что комбинированная модель на основе DeepSurv может служить основой для такого прогностического инструмента. Индивидуальный риск-прогноз, рассчитанный нейросетью с учётом комплекса клинико-морфологических показателей, потенциально может выступать тем самым интегральным критерием, по которому отбираются больные для дополнительных вмешательств. Например, пациент с опухолью большого размера, высоким ISUP-грейдом и тромбом уровня II получит модельно высокий риск раннего прогрессирования – это аргумент в пользу максимально интенсивного наблюдения и обсуждения адъювантной системной терапии в мультидисциплинарной команде. Во-вторых, подобные модели помогут в информировании пациентов и планировании наблюдения. Традиционные прогностические схемы (TNM-стадирование, факторы типа градации, поражения лимфоузлов и пр.) не учитывают многих нюансов, вследствие чего больные одной группы (например, стадии pT3a N0) могут иметь разный исход [5]. Использование ML-модели, объединяющей данные о морфологии опухоли, биомаркерах и объёме тромбоза, позволит составить более персонифицированный график диспансеризации: кто-то из пациентов низкого риска сможет избежать избыточных визитов и обследований, тогда как группе высокого риска следует уделить больше внимания. В-третьих, применение алгоритмов стратификации на этапе планирования исследований и лечения обеспечит более справедливое сравнение различных методов. В частности, в контексте выбора хирургического доступа (лапароскопия vs лапаротомия) наш анализ подтвердил сопоставимость онкологических результатов при условии одинакового распределения факторов риска. В будущем модели типа DeepSurv могут использоваться для ранжирования пациентов по прогностическому индексу еще до операции – это поможет корректно сравнивать новые методики лечения на однородных по риску подгруппах и тем самым получать более качественные данные доказательной медицины. Перспективным направлением представляется объединение клинических переменных с молекулярными и радиологическими характеристиками опухоли (геномные маркеры, данные КТ/МРТ) в рамках единой нейросетевой модели [8]. Уже имеются примеры интеграции радиомики и DeepSurv для улучшения прогноза и подбора терапии при раке лёгкого [8]; аналогично и при почечно-клеточном раке внедрение таких комплексных моделей может существенно повысить точность стратификации.
Вывод:
нейросетевая Cox-модель DeepSurv подтвердила методологическую состоятельность в задаче прогноза безрецидивной выживаемости у пациентов с ПКР и венозным тромбозом. Она позволила учесть нелинейные связи предикторов и дала более высокий (пусть и незначительно) прогностический рейтинг. Применение методов SHAP обеспечило интерпретацию модели в терминах привычных клинических категорий, что делает результаты пригодными для практического использования. Полученные данные открывают возможности для дальнейшего использования DeepSurv-подхода в онкоурологии – в том числе для отбора пациентов на адъювантные терапии, разработки персонализированных схем наблюдения и принятия решений о тактике лечения на основе интегрального прогностического индекса. Такой подход согласуется с общей мировой тенденцией к внедрению искусственного интеллекта в медицину с целью повышения точности прогноза и индивидуализации лечения [9]
About the authors
Nina Trukhacheva
"Altai State Medical University" of the Ministry of Health of the Russian Federation
Author for correspondence.
Email: tn10@mail.ru
ORCID iD: 0000-0002-7894-4779
доцент, доцент кафедры физики и информатики
Russian FederationMusabek K. Mirzabekov
Federal State Budgetary Institution "RSC for Radiology and Surgical Technologies named after Acad. A.M. Granov" of the Ministry of Health of Russia
Email: musabek.mirzabekoff@yandex.ru
ORCID iD: 0009-0003-8365-7672
PhD student
Russian FederationNikolai D. Tikhonsky
Altai State Medical University
Email: wirelessm8@mail.ru
ORCID iD: 0009-0001-3077-1776
Russian Federation, teacher
Michail I. Scholnik
ФГБУ «РНЦРХТ им. ак. А.М. Гранова» Минздрава России
Email: shkolnik_phd@mail.ru
ORCID iD: 0000-0003-0589-7999
д.м.н. главный научный сотрудник, профессор
Russian FederationOleg A. Bogomolov
ФГБУ «РНЦРХТ им. ак. А.М. Гранова» Минздрава России
Email: urologbogomolov@gmail.com
ORCID iD: 0000-0002-5860-9076
к.м.н. старший научный сотрудник, доцент
Russian FederationReferences
- Cox, D. R. (1972). Regression models and life tables // Journal of the Royal Statistical Society: Series B . – Т. 34. – С. 187–220.
- Katzman, J. L., Shaham, U., Cloninger, A., Bates, J., Jiang, T., & Kluger, Y. (2018). DeepSurv: personalized treatment recommender system using a Cox proportional hazards deep neural network // BMC Medical Research Methodology . – Т. 18, № 1. – С. 24. – doi: 10.1186/s12874-018-0482-1.
- GONEN M., HELLER G. Concordance probability and discriminatory power in proportional hazards regression // Biometrika. — 2005. — Т. 92, № 4. — С. 965–970.
- LUNDBERG S. M., LEE S.-I. A Unified Approach to Interpreting Model Predictions // Advances in Neural Information Processing Systems. — 2017. — Т. 30. — С. 4765–4774. — URL: https://proceedings .neurips.cc/paper/7062-a- unified-approach-to-interpreting-model-predictions.pdf
- Byun, S.-S., Heo, T. S., Choi, J. M., Jeong, Y. S., Kim, Y. S., Lee, W. K., & Kim, C. (2021). Deep learning based prediction of prognosis in nonmetastatic clear cell renal cell carcinoma // Scientific Reports . – Т. 11, № 1. – С. 1242. – doi: 10.1038/s41598-020-80262-9.
- Multicollinearity in Cox proportional hazards regression [Электронный ресурс] / URL: https://www.graphpad.com/guides/prism/latest/statistics/stat_cox_reg_results_multicollinearity.htm (дата обращения: 23.06.2025).
- Shin, D., Lim, B., Song, C., You, D., Jeong, I. G., Hong, J. H., Ahn, H., Hong, B., Jeong, C. W., Han, J. H., & Suh, J. (2025). Comparative analysis of oncologic outcomes in surgically treated patients with renal cell carcinoma and renal vein thrombosis by pathologic subtypes // Scientific Reports . – Т. 15, № 1. – С. 15946. – doi: 10.1038/s41598-025-00452-1.
- Yang, B., Liu, C. X., Wu, R., Zhong, J., Li, A., Ma, L., Zhong, J., Yin, S. S., Zhou, C. S., Ge, Y. Q., Tao, X. W., Zhang, L. J., & Lu, G. M. (2022). Development and validation of a DeepSurv nomogram to predict survival outcomes and guide personalized adjuvant chemotherapy in non-small cell lung cancer // Frontiers in Oncology . – Т. 12. – doi: 10.3389/fonc.2022.895014. – URL: https://www.frontiersin.org/journals/oncology/articles/10.3389/fonc.2022.895014 (дата обращения: 06.04.2025).
- LUNDBERG S. M., LEE S.-I. A Unified Approach to Interpreting Model Predictions // Advances in Neural Information Processing Systems. — 2017. — Т. 30. — С. 4765–4774. — URL: https://proceedings .neurips.cc/paper/7062-a- unified-approach-to-interpreting-model-predictions.pdf
Supplementary files
