当前位置:网站首页>【MEDICAL】Attend to Medical Ontologies: Content Selection for Clinical Abstractive Summarization
【MEDICAL】Attend to Medical Ontologies: Content Selection for Clinical Abstractive Summarization
2022-07-02 07:20:00 【lwgkzl】
任務:
據作者說,英文的醫療影像報告同時具有兩個描述,一個是FINDINGS,闡述了整個圖像的細節與特點,還有一個是IMPRESSION,只重點描述圖像中的關鍵信息,這些關鍵信息是包含在FINDINGS裏面的。總之,本篇論文做的就是利用這個FINDINGS來生成IMPRESSION,即在文本摘要在醫療領域的應用。
模型:
Content Selector:
這個選擇器采用序列標注的形式來實現,整個FINDINGS序列的每個詞有0,1兩種標注。如果當前這個詞是醫療專有實體,並且他在對應的IMPRESSION出現過了的話,那就把這個比特置標注為1,否則標注為0。這樣學出來一個模型,在測試集上面就可以用來標注FINDINGS,並且選出一些關鍵的醫療專有實體。
然後看到圖
左邊是encoder,encoder裏面的上面那個lstm用來encoder整個FINDINGS,得到每個比特置的編碼hi,然後下面那個lstm用來encoder Content Selector選取的關鍵醫療專有實體。醫療專有實體的這個LSTM得到最終一個hl0的向量,這個向量代錶著當前這個FINDINGS裏面所有顯著的醫療專有實體的信息。然後用這個信息融合到上面那個編碼FINDINGS的LSTM中,得到每個比特置的一個新的向量:
hi是上面LSTM每個比特置的輸出, hl0是下面LSTM最後一個比特置的輸出。融合起來,然後和之前每個比特置的輸出做element-wise的乘法操作,即第二個公式的這個圓圈。融合之後的hi'與最後decoder每個比特置坐attention,用來引導decoder的生成。
讀後總結:
整篇paper的模型其實不難,依舊是老套的seq2seq的基礎架構,並且用的是lstm ecoder和lstm decoder的模式。唯一的亮點就是Content Selector的時候用到了序列標注的思想,這個有點類似於copy機制,但又不是在最後一步修改分布。整篇論文只做了一個這樣小的改動,然後能够論證他真的有效果,就可以了。
边栏推荐
- 離線數倉和bi開發的實踐和思考
- SSM二手交易网站
- allennlp 中的TypeError: Object of type Tensor is not JSON serializable错误
- view的绘制机制(一)
- Ding Dong, here comes the redis om object mapping framework
- 【BERT,GPT+KG调研】Pretrain model融合knowledge的论文集锦
- ORACLE EBS DATAGUARD 搭建
- Oracle 11g uses ords+pljson to implement JSON_ Table effect
- ORACLE 11G利用 ORDS+pljson来实现json_table 效果
- The first quickapp demo
猜你喜欢
随机推荐
view的绘制机制(二)
@Transational踩坑
Oracle EBS database monitoring -zabbix+zabbix-agent2+orabbix
Module not found: Error: Can't resolve './$$_gendir/app/app.module.ngfactory'
PM2 simple use and daemon
Error in running test pyspark in idea2020
【Torch】最简洁logging使用指南
解决万恶的open failed: ENOENT (No such file or directory)/(Operation not permitted)
ORACLE 11G SYSAUX表空间满处理及move和shrink区别
php中时间戳转换为毫秒以及格式化时间
php中获取汉字拼音大写首字母
Sqli-labs customs clearance (less2-less5)
Oracle apex 21.2 installation and one click deployment
IDEA2020中PySpark的两表关联(字段名相同)
SSM laboratory equipment management
sqli-labs通關匯總-page2
CSRF攻击
ORACLE EBS接口开发-json格式数据快捷生成
Oracle RMAN semi automatic recovery script restore phase
实现接口 Interface Iterable<T>