Dataset Viewer
Auto-converted to Parquet Duplicate
text
stringlengths
14
639k
<s> <STRING> <STRING> <STRING> <EOL> <KEYWORD> <NAME> <KEYWORD> <NAME> <EOL> <KEYWORD> <NAME> <KEYWORD> <NAME> <NAME> <NAME> <NAME> <EOL> <KEYWORD> <NAME> <KEYWORD> <NAME> <NAME> <NAME> <NAME> <EOL> <KEYWORD> <NAME> <KEYWORD> <STAR> <EOL> <NAME> <EQUAL> <LSQB> <LPAR> <EOL> <STRING> <STRING> <STRING> <STRING> <COMMA> <E...
<s> <KEYWORD> <NAME> <EOL> <KEYWORD> <NAME> <DOT> <NAME> <EOL> <KEYWORD> <NAME> <DOT> <NAME> <EOL> <KEYWORD> <NAME> <DOT> <NAME> <EOL> <KEYWORD> <NAME> <DOT> <NAME> <EOL> <KEYWORD> <NAME> <DOT> <NAME> <EOL> <KEYWORD> <NAME> <EOL> <KEYWORD> <NAME> <EOL> <KEYWORD> <NAME> <NAME> <NAME> <KEYWORD> <NAME> <EOL> <KEYWORD> <DO...
<s> <STRING> <STRING> <STRING> <EOL> <KEYWORD> <NAME> <EOL> <KEYWORD> <NAME> <EOL> <KEYWORD> <NAME> <NAME> <NAME> <EQEQUAL> <STRING> <STRING> <STRING> <COLON> <EOL> <INDENT> <NAME> <DOT> <NAME> <DOT> <NAME> <LPAR> <STRING> <STRING> <STRING> <COMMA> <STRING> <STRING> <STRING> <RPAR> <EOL> <KEYWORD> <NAME> <DOT> <NAME> <...
<s> <STRING> <STRING> <STRING> <EOL> <KEYWORD> <NAME> <EOL> <NAME> <EQUAL> <NAME> <DOT> <NAME> <DOT> <NAME> <LPAR> <NAME> <NAME> <NAME> <RPAR> <EOL> <NAME> <NAME> <NAME> <EQUAL> <NAME> <LPAR> <NAME> <DOT> <NAME> <DOT> <NAME> <LPAR> <NAME> <COMMA> <STRING> <STRING> <STRING> <COMMA> <STRING> <STRING> <STRING> <RPAR> <COM...
<s> <KEYWORD> <NAME> <EOL> <KEYWORD> <NAME> <EOL> <KEYWORD> <NAME> <NAME> <NAME> <EQEQUAL> <STRING> <STRING> <STRING> <COLON> <EOL> <INDENT> <NAME> <DOT> <NAME> <DOT> <NAME> <LPAR> <STRING> <STRING> <STRING> <COMMA> <STRING> <STRING> <STRING> <RPAR> <EOL> <KEYWORD> <NAME> <DOT> <NAME> <DOT> <NAME> <KEYWORD> <NAME> <NAM...
<s> <KEYWORD> <NAME> <NAME> <NAME> <KEYWORD> <NAME> <NAME> <NAME> <EOL> <KEYWORD> <NAME> <DOT> <NAME> <KEYWORD> <NAME> <COMMA> <NAME> <EOL> <KEYWORD> <NAME> <LPAR> <NAME> <DOT> <NAME> <RPAR> <COLON> <EOL> <INDENT> <NAME> <EQUAL> <LSQB> <EOL> <RSQB> <EOL> <NAME> <EQUAL> <LSQB> <EOL> <NAME> <DOT> <NAME> <NAME> <LPAR> <EO...
<s> <KEYWORD> <NAME> <EOL> <KEYWORD> <NAME> <DOT> <NAME> <KEYWORD> <NAME> <EOL> <KEYWORD> <NAME> <DOT> <NAME> <DOT> <NAME> <DOT> <NAME> <KEYWORD> <NAME> <NAME> <NAME> <NAME> <NAME> <EOL> <KEYWORD> <NAME> <DOT> <NAME> <KEYWORD> <NAME> <EOL> <KEYWORD> <NAME> <DOT> <NAME> <KEYWORD> <NAME> <COMMA> <NAME> <EOL> <KEYWORD> <N...
<s> <STRING> <STRING> <STRING> <EOL> <NAME> <NAME> <NAME> <EQUAL> <LPAR> <STRING> <STRING> <STRING> <COMMA> <STRING> <STRING> <STRING> <RPAR> <EOL> <KEYWORD> <NAME> <NAME> <NAME> <LPAR> <NAME> <RPAR> <COLON> <EOL> <INDENT> <STRING> <STRING> <STRING> <EOL> <KEYWORD> <EOL> <DEDENT> <KEYWORD> <NAME> <NAME> <LPAR> <NAME> <...
<s> <KEYWORD> <NAME> <EOL> <KEYWORD> <NAME> <DOT> <NAME> <NAME> <DOT> <NAME> <EOL> <KEYWORD> <NAME> <DOT> <NAME> <KEYWORD> <NAME> <EOL> <KEYWORD> <NAME> <EOL> <NAME> <EQUAL> <NAME> <DOT> <NAME> <LPAR> <NAME> <NAME> <NAME> <RPAR> <EOL> <KEYWORD> <NAME> <NAME> <NAME> <NAME> <NAME> <NAME> <LPAR> <RPAR> <COLON> <EOL> <INDE...
<s> <KEYWORD> <NAME> <DOT> <NAME> <KEYWORD> <NAME> <EOL> <KEYWORD> <NAME> <EOL> <KEYWORD> <NAME> <DOT> <NAME> <KEYWORD> <NAME> <EOL> <KEYWORD> <NAME> <LPAR> <NAME> <DOT> <NAME> <RPAR> <COLON> <EOL> <INDENT> <NAME> <EQUAL> <NAME> <DOT> <NAME> <NAME> <LPAR> <NAME> <NAME> <NAME> <EQUAL> <NUMBER> <RPAR> <EOL> <NAME> <EQUAL...
<s> <KEYWORD> <NAME> <NAME> <NAME> <KEYWORD> <NAME> <NAME> <NAME> <EOL> <KEYWORD> <NAME> <DOT> <NAME> <KEYWORD> <NAME> <COMMA> <NAME> <EOL> <KEYWORD> <NAME> <LPAR> <NAME> <DOT> <NAME> <RPAR> <COLON> <EOL> <INDENT> <NAME> <EQUAL> <LSQB> <EOL> <LPAR> <STRING> <STRING> <STRING> <COMMA> <STRING> <STRING> <STRING> <RPAR> <C...
<s> <KEYWORD> <NAME> <EOL> <KEYWORD> <NAME> <KEYWORD> <NAME> <EOL> <NAME> <DOT> <NAME> <NAME> <NAME> <LPAR> <RPAR> <EOL> <KEYWORD> <NAME> <EOL> <KEYWORD> <NAME> <EOL> <NAME> <NAME> <NAME> <EQUAL> <STRING> <STRING> <STRING> <EOL> <KEYWORD> <NAME> <LPAR> <NAME> <RPAR> <COLON> <EOL> <INDENT> <KEYWORD> <NAME> <LPAR> <NAME>...
<s> <KEYWORD> <NAME> <EOL> <KEYWORD> <NAME> <EOL> <KEYWORD> <NAME> <DOT> <NAME> <NAME> <NAME> <LESS> <LPAR> <NUMBER> <COMMA> <RPAR> <COLON> <EOL> <INDENT> <KEYWORD> <NAME> <LPAR> <NAME> <RPAR> <COLON> <EOL> <INDENT> <KEYWORD> <NAME> <EOL> <DEDENT> <KEYWORD> <NAME> <LPAR> <NAME> <RPAR> <COLON> <EOL> <INDENT> <KEYWORD> <...
<s> <KEYWORD> <NAME> <NAME> <NAME> <NAME> <KEYWORD> <NAME> <COMMA> <NAME> <NAME> <NAME> <EOL> <KEYWORD> <NAME> <KEYWORD> <NAME> <COMMA> <NAME> <EOL> <KEYWORD> <NAME> <EOL> <KEYWORD> <NAME> <KEYWORD> <NAME> <COMMA> <NAME> <COMMA> <NAME> <EOL> <KEYWORD> <NAME> <EOL> <AT> <NAME> <DOT> <NAME> <NAME> <NAME> <EOL> <KEYWORD> ...
<s> <KEYWORD> <DOT> <NAME> <NAME> <NAME> <KEYWORD> <NAME> <NAME> <NAME> <EOL> </s>
<s> <STRING> <STRING> <STRING> <EOL> <KEYWORD> <NAME> <EOL> <KEYWORD> <NAME> <DOT> <NAME> <KEYWORD> <STAR> <EOL> <KEYWORD> <NAME> <EOL> <KEYWORD> <NAME> <EOL> <KEYWORD> <NAME> <EOL> <KEYWORD> <NAME> <EOL> <KEYWORD> <NAME> <EOL> <KEYWORD> <NAME> <EOL> <NAME> <DOT> <NAME> <LSQB> <STRING> <STRING> <STRING> <RSQB> <EQUAL> ...
<s> <STRING> <STRING> <STRING> <EOL> <KEYWORD> <NAME> <EOL> <KEYWORD> <NAME> <NAME> <NAME> <LPAR> <NAME> <RPAR> <COLON> <EOL> <INDENT> <STRING> <STRING> <STRING> <EOL> <KEYWORD> <NAME> <NAME> <NAME> <LPAR> <NAME> <RPAR> <COLON> <EOL> <INDENT> <KEYWORD> <STRING> <STRING> <STRING> <EOL> <DEDENT> <DEDENT> <KEYWORD> <NAME>...
<s> <STRING> <STRING> <STRING> <EOL> <KEYWORD> <NAME> <NAME> <NAME> <DOT> <NAME> <NAME> <NAME> <DOT> <NAME> <NAME> <KEYWORD> <NAME> <NAME> <EOL> <KEYWORD> <NAME> <NAME> <NAME> <DOT> <NAME> <NAME> <NAME> <DOT> <NAME> <NAME> <NAME> <NAME> <KEYWORD> <NAME> <NAME> <NAME> <EOL> <KEYWORD> <NAME> <NAME> <NAME> <DOT> <NAME> <N...
<s> <STRING> <STRING> <STRING> <EOL> <KEYWORD> <NAME> <EOL> <KEYWORD> <NAME> <LPAR> <RPAR> <COLON> <EOL> <INDENT> <STRING> <STRING> <STRING> <EOL> <KEYWORD> <NAME> <NAME> <NAME> <LPAR> <NAME> <COMMA> <NAME> <RPAR> <COLON> <EOL> <INDENT> <NAME> <DOT> <NAME> <EQUAL> <STRING> <STRING> <STRING> <EOL> <NAME> <DOT> <NAME> <E...
<s> <KEYWORD> <NAME> <NAME> <NAME> <KEYWORD> <NAME> <NAME> <NAME> <EOL> <KEYWORD> <NAME> <DOT> <NAME> <KEYWORD> <NAME> <COMMA> <NAME> <EOL> <KEYWORD> <NAME> <NAME> <NAME> <DOT> <NAME> <NAME> <NAME> <NAME> <DOT> <NAME> <EOL> <KEYWORD> <NAME> <LPAR> <NAME> <DOT> <NAME> <RPAR> <COLON> <EOL> <INDENT> <NAME> <EQUAL> <LSQB> ...
<s> <STRING> <STRING> <STRING> <EOL> <NAME> <LPAR> <NAME> <NAME> <NAME> <RPAR> <EOL> <KEYWORD> <NAME> <DOT> <NAME> <KEYWORD> <NAME> <EOL> <KEYWORD> <NAME> <NAME> <EOL> <NAME> <NAME> <NAME> <NAME> <NAME> <NAME> <NAME> <EQUAL> <STRING> <STRING> <STRING> <EOL> <NAME> <NAME> <NAME> <NAME> <NAME> <NAME> <NAME> <EQUAL> <STRI...
<s> <STRING> <STRING> <STRING> <EOL> <KEYWORD> <NAME> <EOL> <KEYWORD> <NAME> <EOL> <KEYWORD> <NAME> <EOL> <KEYWORD> <DOT> <DOT> <NAME> <DOT> <NAME> <NAME> <NAME> <KEYWORD> <NAME> <NAME> <NAME> <NAME> <NAME> <EOL> <KEYWORD> <DOT> <DOT> <NAME> <DOT> <NAME> <KEYWORD> <NAME> <NAME> <NAME> <NAME> <EOL> <KEYWORD> <NAME> <NAM...
<s> <STRING> <STRING> <STRING> <EOL> <KEYWORD> <NAME> <EOL> <KEYWORD> <NAME> <NAME> <NAME> <LPAR> <NAME> <RPAR> <COLON> <EOL> <INDENT> <STRING> <STRING> <STRING> <EOL> <KEYWORD> <EOL> <DEDENT> <KEYWORD> <NAME> <NAME> <LPAR> <NAME> <RPAR> <COLON> <EOL> <INDENT> <STRING> <STRING> <STRING> <EOL> <KEYWORD> <EOL> <DEDENT> <...
<s> <STRING> <STRING> <STRING> <EOL> <KEYWORD> <NAME> <EOL> <KEYWORD> <NAME> <KEYWORD> <NAME> <EOL> <KEYWORD> <DOT> <DOT> <NAME> <KEYWORD> <NAME> <NAME> <COMMA> <NAME> <NAME> <NAME> <EOL> <KEYWORD> <DOT> <DOT> <NAME> <DOT> <NAME> <NAME> <KEYWORD> <NAME> <NAME> <EOL> <KEYWORD> <DOT> <NAME> <KEYWORD> <NAME> <NAME> <NAME>...
<s> <STRING> <STRING> <STRING> <EOL> <KEYWORD> <NAME> <EOL> <KEYWORD> <NAME> <KEYWORD> <NAME> <EOL> <KEYWORD> <NAME> <NAME> <KEYWORD> <NAME> <NAME> <NAME> <EOL> <KEYWORD> <DOT> <DOT> <NAME> <KEYWORD> <NAME> <NAME> <COMMA> <NAME> <NAME> <NAME> <EOL> <KEYWORD> <DOT> <DOT> <NAME> <DOT> <NAME> <NAME> <KEYWORD> <NAME> <NAME...
<s> <STRING> <STRING> <STRING> <EOL> <KEYWORD> <NAME> <NAME> <EOL> <NAME> <NAME> <EQUAL> <NAME> <NAME> <DOT> <NAME> <DOT> <NAME> <NAME> <NAME> <NAME> <LPAR> <STRING> <STRING> <STRING> <RPAR> <EOL> <NAME> <NAME> <NAME> <EQUAL> <NAME> <LPAR> <KEYWORD> <COMMA> <NUMBER> <COMMA> <NUMBER> <RPAR> <EOL> <NAME> <NAME> <NAME> <E...
<s> <STRING> <STRING> <STRING> <EOL> <KEYWORD> <NAME> <NAME> <NAME> <KEYWORD> <NAME> <NAME> <NAME> <EOL> <KEYWORD> <NAME> <EOL> <KEYWORD> <NAME> <KEYWORD> <NAME> <EOL> <KEYWORD> <NAME> <NAME> <KEYWORD> <NAME> <NAME> <NAME> <COMMA> <NAME> <NAME> <NAME> <EOL> <KEYWORD> <DOT> <KEYWORD> <NAME> <NAME> <NAME> <EOL> <KEYWORD>...
<s> <STRING> <STRING> <STRING> <EOL> <NAME> <NAME> <NAME> <EQUAL> <STRING> <STRING> <STRING> <EOL> <NAME> <NAME> <NAME> <EQUAL> <STRING> <STRING> <STRING> <EOL> <NAME> <NAME> <NAME> <NAME> <NAME> <EQUAL> <LSQB> <STRING> <STRING> <STRING> <COMMA> <STRING> <STRING> <STRING> <RSQB> <EOL> <NAME> <NAME> <NAME> <EQUAL> <NUMB...
<s> <KEYWORD> <NAME> <EOL> <KEYWORD> <NAME> <NAME> <NAME> <KEYWORD> <NAME> <NAME> <COMMA> <NAME> <EOL> <KEYWORD> <NAME> <NAME> <NAME> <DOT> <NAME> <DOT> <NAME> <NAME> <DOT> <NAME> <KEYWORD> <NAME> <NAME> <NAME> <NAME> <NAME> <EOL> <KEYWORD> <NAME> <NAME> <NAME> <DOT> <NAME> <KEYWORD> <NAME> <EOL> <KEYWORD> <NAME> <NAME...
<s> <STRING> <STRING> <STRING> <EOL> <NAME> <EQUAL> <STRING> <STRING> <STRING> <EOL> <NAME> <EQUAL> <STRING> <STRING> <STRING> <EOL> <NAME> <EQUAL> <STRING> <STRING> <STRING> <EOL> </s>
<s> <KEYWORD> <NAME> <EOL> <KEYWORD> <NAME> <NAME> <EOL> <KEYWORD> <NAME> <EOL> <KEYWORD> <NAME> <EOL> <KEYWORD> <NAME> <KEYWORD> <NAME> <COMMA> <NAME> <EOL> <KEYWORD> <NAME> <KEYWORD> <NAME> <NAME> <EOL> <KEYWORD> <NAME> <NAME> <NAME> <KEYWORD> <NAME> <NAME> <COMMA> <NAME> <COMMA> <NAME> <EOL> <KEYWORD> <NAME> <NAME> ...
<s> <STRING> <STRING> <STRING> <EOL> <KEYWORD> <NAME> <NAME> <EOL> <KEYWORD> <NAME> <EOL> <KEYWORD> <NAME> <EOL> <KEYWORD> <NAME> <EOL> <KEYWORD> <NAME> <EOL> <NAME> <EQUAL> <NAME> <DOT> <NAME> <LPAR> <STRING> <STRING> <STRING> <RPAR> <EOL> <KEYWORD> <NAME> <NAME> <NAME> <LPAR> <NAME> <RPAR> <COLON> <EOL> <INDENT> <KEY...
<s> <KEYWORD> <NAME> <EOL> <KEYWORD> <NAME> <EOL> <KEYWORD> <NAME> <NAME> <NAME> <KEYWORD> <NAME> <COMMA> <NAME> <NAME> <COMMA> <NAME> <COMMA> <NAME> <EOL> <KEYWORD> <NAME> <NAME> <NAME> <DOT> <NAME> <KEYWORD> <NAME> <COMMA> <NAME> <NAME> <NAME> <EOL> <KEYWORD> <NAME> <NAME> <NAME> <DOT> <NAME> <DOT> <NAME> <KEYWORD> <...
<s> <KEYWORD> <NAME> <EOL> <KEYWORD> <NAME> <EOL> <KEYWORD> <NAME> <KEYWORD> <NAME> <EOL> <KEYWORD> <NAME> <NAME> <NAME> <KEYWORD> <NAME> <NAME> <COMMA> <NAME> <COMMA> <NAME> <EOL> <KEYWORD> <NAME> <NAME> <NAME> <DOT> <NAME> <DOT> <NAME> <KEYWORD> <NAME> <NAME> <NAME> <NAME> <EOL> <KEYWORD> <NAME> <NAME> <NAME> <DOT> <...
<s> <STRING> <STRING> <STRING> <EOL> <KEYWORD> <NAME> <EOL> <KEYWORD> <NAME> <KEYWORD> <NAME> <EOL> <KEYWORD> <NAME> <NAME> <NAME> <NAME> <LPAR> <NAME> <RPAR> <COLON> <EOL> <INDENT> <STRING> <STRING> <STRING> <EOL> <KEYWORD> <NAME> <NAME> <NAME> <LPAR> <NAME> <COMMA> <NAME> <NAME> <NAME> <COMMA> <NAME> <RPAR> <COLON> <...
<s> <STRING> <STRING> <STRING> <EOL> <KEYWORD> <NAME> <EOL> <KEYWORD> <NAME> <NAME> <NAME> <NAME> <NAME> <KEYWORD> <NAME> <NAME> <NAME> <NAME> <NAME> <EOL> <KEYWORD> <NAME> <NAME> <NAME> <NAME> <NAME> <KEYWORD> <NAME> <NAME> <NAME> <NAME> <NAME> <EOL> <KEYWORD> <NAME> <NAME> <NAME> <NAME> <NAME> <KEYWORD> <NAME> <NAME>...
<s> <KEYWORD> <NAME> <EOL> <KEYWORD> <NAME> <EOL> <KEYWORD> <NAME> <EOL> <KEYWORD> <NAME> <EOL> <KEYWORD> <NAME> <EOL> <KEYWORD> <NAME> <EOL> <KEYWORD> <NAME> <LPAR> <RPAR> <COLON> <EOL> <INDENT> <NAME> <NAME> <NAME> <EQUAL> <NAME> <DOT> <NAME> <LPAR> <EOL> <NAME> <EQUAL> <STRING> <STRING> <STRING> <RPAR> <EOL> <NAME> ...
<s> <KEYWORD> <NAME> <EOL> <NAME> <EQUAL> <NAME> <LPAR> <NAME> <DOT> <NAME> <LSQB> <NUMBER> <RSQB> <COMMA> <STRING> <STRING> <STRING> <RPAR> <EOL> <NAME> <EQUAL> <NAME> <LPAR> <NAME> <DOT> <NAME> <LSQB> <NUMBER> <RSQB> <COMMA> <STRING> <STRING> <STRING> <RPAR> <EOL> <KEYWORD> <NAME> <KEYWORD> <NAME> <COLON> <EOL> <INDE...
<s> <STRING> <STRING> <STRING> <EOL> <KEYWORD> <NAME> <EOL> <KEYWORD> <NAME> <EOL> <KEYWORD> <NAME> <NAME> <NAME> <DOT> <NAME> <NAME> <KEYWORD> <NAME> <NAME> <COMMA> <NAME> <NAME> <COMMA> <NAME> <NAME> <EOL> <KEYWORD> <NAME> <EOL> <KEYWORD> <NAME> <NAME> <NAME> <DOT> <NAME> <DOT> <NAME> <NAME> <NAME> <KEYWORD> <NAME> <...
End of preview. Expand in Data Studio

PyCoder

This repository contains the dataset for the paper Syntax-Aware On-the-Fly Code Completion

The sample code to run the model can be found in directory: "assets/notebooks/inference.ipynb" in our GitHub: https://github.com/awsm-research/pycoder.

PyCoder is an auto code completion model which leverages a Multi-Task Training technique (MTT) to cooperatively learn the code prediction task and the type prediction task. For the type prediction task, we propose to leverage the standard Python token type information (e.g., String, Number, Name, Keyword), which is readily available and lightweight, instead of using the AST information which requires source code to be parsable for an extraction, limiting its ability to perform on-the-fly code completion (see Section 2.3 in our paper).

More information can be found in our paper.

If you use our code or PyCoder, please cite our paper.

@article{takerngsaksiri2022syntax,
  title={Syntax-Aware On-the-Fly Code Completion},
  author={Takerngsaksiri, Wannita and Tantithamthavorn, Chakkrit and Li, Yuan-Fang},
  journal={arXiv preprint arXiv:2211.04673},
  year={2022}
}
Downloads last month
149

Models trained or fine-tuned on Wannita/PyCoder-Type

Paper for Wannita/PyCoder-Type