Kaggle Competition Walkthrough: Introduction
You can find the data for this post here.
Kaggle is a site for participating in predictive analytics competitions. It is also a great resource for learning how to build powerful predictive models, and the Overfitting competition provides a good introduction to the common tools used by a predictive analyst.
To start, you will need to download R for your platform. If you don’t live near Pittsburgh, PA, and the download is slow, go to the main site for R, click CRAN and select a mirror closer to you. After you install R, you will need to install a few packages so you can follow my code. (If you are running R on linux, make sure you start it with ‘sudo R’ to install packages). Enter the following line of code at the R command prompt to install the R packages caret, reshape2, plyr, and caTools. Caret is a package for building predictive models, reshape2 and plyr are brilliant tools for data management, and caTools will help you score your model using a ROC curve.
#Load Required Packages
library('caret')
library('glmnet')
library('ipred')
library('e1071')
library('caTools')
set.seed(42)
After you install R, download the kaggle competition data, and create a new R script in the R gui. (On linux, use your favorite text editor– I’m assuming you already know something about writing code). The first thing your script needs to do is change your working directory to the directory where you saved the completion’s data. If you save your R script and the data to the same directory, you should be able to skip this step, but it is usually good practice. You will need a bit of an understanding of how your operating system handle directories. For example, windows doesn’t seem to handle the ‘~’ character in the same way as Mac and Unix systems, where ‘~/’ represents your home directory. You might want to create a directory called ‘~/Kaggle/Overfitting’ and store your project there.
After changing the directory, I like to load the packages I am going to use for my analysis. This helps force me to think things through ahead of time. In this case, we are going to fit our predictive model using the packages caret and glmnet, which should have been automatically installed when you installed the caret packages as I instructed. ‘e1071’ and ‘ipred’ will be used for feature selection, and ‘caTools’ to score your model.
Next we need to read the data into R, which we do using the read.csv command. We then choose a Target for our analysis, which in this case is ‘Target_Practice.’ We then null out the other Target variables as they are redundant. (I will explain Target_Leaderboard and Target_Evaluate later). We create our Target as a factor in R, which signals that it is a discrete, rather than continuous variable. This also means that we are solving a classification, rather than a regression problem, and helps us avoid using predictive techniques that might be inappropriate for the dataset at hand. We recode our variable from ‘1’ and ‘0’ to ‘X1’ and ‘X0’ because of an issue with how caret handles names.
Data <- read.csv("../../../public/data/overfitting.csv", header=TRUE)
#Choose Target
Data$Target <- as.factor(ifelse(Data$Target_Practice ==1,'X1','X0'))
Data$Target_Evaluate = NULL
Data$Target_Leaderboard = NULL
Data$Target_Practice = NULL
xnames <- setdiff(names(Data),c('Target','case_id','train'))
#Order
Data <- Data[,c('Target','case_id','train', xnames)]
We need to split our dataset into a training and a testing set, which is something you should should try to do when developing any model. In this case, splitting is easy because the contest’s organizers have helpfully provided the split for us. Oftentimes, you will be required to make this split yourself, and you can employ R’s sample command to randomly assign observations to the training and test sets, but that is a topic for another day.
#Split to train and test
trainset = Data[Data$train == 1,]
testset = Data[Data$train == 0,]
#Remove unwanted columns
trainset$case_id = NULL
trainset$train = NULL
Finally, we define the formula we will use for our analysis. R has a very powerful formula interface, and all of the caret functions can employ it. In this case, we define a variable ‘xnames,’ which contains the names of the independent variables in this model, which we are going to try to use to predict the dependant variable, in this case ‘Target.’
#Define Formula
FL <- as.formula(paste("Target ~ ", paste(xnames, collapse= "+")))
To review what we have done, try the following commands:
head(Data)
#> Target case_id train var_1 var_2 var_3 var_4 var_5 var_6 var_7 var_8 var_9 var_10 var_11 var_12 var_13 var_14 var_15
#> 1 X0 1 1 0.660 0.106 0.434 0.387 0.903 0.661 0.158 0.291 0.210 0.936 0.994 0.052 0.370 0.376 0.166
#> 2 X1 2 1 0.844 0.813 0.030 0.939 0.721 0.287 0.539 0.874 0.787 0.732 0.530 0.176 0.301 0.180 0.466
#> 3 X0 3 1 0.560 0.567 0.568 0.434 0.414 0.180 0.448 0.888 0.023 0.690 0.155 0.301 0.429 0.782 0.199
#> 4 X0 4 1 0.681 0.245 0.909 0.785 0.738 0.570 0.692 0.411 0.182 0.520 0.245 0.796 0.152 0.492 0.938
#> 5 X0 5 1 0.846 0.431 0.805 0.237 0.465 0.642 0.219 0.102 0.795 0.131 0.568 0.857 0.381 0.071 0.895
#> 6 X0 6 1 0.961 0.910 0.399 0.860 0.883 0.032 0.618 0.694 0.155 0.138 0.783 0.006 0.046 0.236 0.426
#> var_16 var_17 var_18 var_19 var_20 var_21 var_22 var_23 var_24 var_25 var_26 var_27 var_28 var_29 var_30 var_31
#> 1 0.309 0.531 0.347 0.142 0.970 0.032 0.646 0.087 0.854 0.477 0.275 0.564 0.582 0.064 0.448 0.490
#> 2 0.774 0.538 0.617 0.957 0.150 0.121 0.992 0.715 0.475 0.592 0.486 0.760 0.007 0.247 0.028 0.870
#> 3 0.457 0.348 0.122 0.147 0.969 0.996 0.871 0.071 0.928 0.168 0.455 0.260 0.786 0.569 0.578 0.165
#> 4 0.138 0.114 0.896 0.105 0.749 0.193 0.170 0.995 0.196 0.751 0.046 0.973 0.694 0.210 0.065 0.978
#> 5 0.677 0.757 0.679 0.116 0.137 0.268 0.730 0.463 0.843 0.151 0.325 0.197 0.332 0.862 0.907 0.554
#> 6 0.513 0.464 0.413 0.853 0.611 0.288 0.844 0.097 0.510 0.944 0.064 0.123 0.631 0.236 0.475 0.279
#> var_32 var_33 var_34 var_35 var_36 var_37 var_38 var_39 var_40 var_41 var_42 var_43 var_44 var_45 var_46 var_47
#> 1 0.718 0.166 0.863 0.336 0.158 0.155 0.213 0.584 0.773 0.484 0.954 0.426 0.298 0.011 0.323 0.720
#> 2 0.723 0.208 0.058 0.284 0.219 0.758 0.545 0.657 0.843 0.913 0.254 0.261 0.088 0.252 0.257 0.440
#> 3 0.501 0.386 0.487 0.605 0.928 0.121 0.491 0.220 0.455 0.668 0.720 0.178 0.899 0.639 0.148 0.119
#> 4 0.740 0.135 0.344 0.222 0.011 0.562 0.591 0.145 0.500 0.574 0.370 0.617 0.909 0.129 0.617 0.392
#> 5 0.206 0.657 0.523 0.952 0.525 0.416 0.345 0.440 0.449 0.724 0.430 0.408 0.127 0.198 0.740 0.533
#> 6 0.242 0.419 0.122 0.998 0.352 0.533 0.700 0.757 0.848 0.977 0.824 0.273 0.889 0.338 0.542 0.961
#> var_48 var_49 var_50 var_51 var_52 var_53 var_54 var_55 var_56 var_57 var_58 var_59 var_60 var_61 var_62 var_63
#> 1 0.470 0.582 0.597 0.191 0.426 0.853 0.614 0.888 0.336 0.376 0.540 0.881 0.297 0.919 0.878 0.219
#> 2 0.236 0.998 0.702 0.314 0.244 0.341 0.827 0.727 0.886 0.020 0.228 0.458 0.144 0.150 0.373 0.665
#> 3 0.644 0.945 0.855 0.369 0.031 0.623 0.543 0.383 0.003 0.916 0.301 0.457 0.987 0.594 0.622 0.675
#> 4 0.286 0.140 0.406 0.811 0.921 0.802 0.964 0.756 0.484 0.171 0.936 0.851 0.413 0.991 0.904 0.917
#> 5 0.836 0.065 0.405 0.987 0.375 0.992 0.240 0.888 0.705 0.160 0.511 0.001 0.838 0.596 0.949 0.696
#> 6 0.543 0.471 0.106 0.635 0.682 0.824 0.979 0.460 0.120 0.021 0.110 0.159 0.003 0.683 0.441 0.462
#> var_64 var_65 var_66 var_67 var_68 var_69 var_70 var_71 var_72 var_73 var_74 var_75 var_76 var_77 var_78 var_79
#> 1 0.476 0.049 0.739 0.133 0.495 0.960 0.355 0.487 0.076 0.548 0.849 0.479 0.929 0.744 0.243 0.602
#> 2 0.849 0.302 0.366 0.597 0.573 0.825 0.965 0.540 0.764 0.432 0.849 0.026 0.145 0.023 0.128 0.282
#> 3 0.044 0.543 0.667 0.114 0.253 0.584 0.783 0.298 0.357 0.557 0.266 0.900 0.648 0.643 0.378 0.696
#> 4 0.560 0.772 0.148 0.673 0.076 0.119 0.665 0.692 0.557 0.311 0.433 0.602 0.430 0.128 0.928 0.541
#> 5 0.977 0.752 0.015 0.149 0.910 0.327 0.420 0.794 0.647 0.352 0.886 0.026 0.314 0.514 0.163 0.156
#> 6 0.451 0.513 0.680 0.813 0.449 0.619 0.311 0.319 0.986 0.097 0.863 0.955 0.446 0.854 0.425 0.020
#> var_80 var_81 var_82 var_83 var_84 var_85 var_86 var_87 var_88 var_89 var_90 var_91 var_92 var_93 var_94 var_95
#> 1 0.896 0.087 0.730 0.838 0.338 0.556 0.189 0.119 0.778 0.645 0.947 0.022 0.790 0.694 0.797 0.730
#> 2 0.346 0.764 0.116 0.933 0.802 0.418 0.339 0.959 0.889 0.919 0.808 0.893 0.315 0.201 0.528 0.280
#> 3 0.111 0.950 0.614 0.767 0.816 0.336 0.213 0.953 0.553 0.485 0.930 0.557 0.730 0.242 0.046 0.295
#> 4 0.597 0.926 0.886 0.857 0.324 0.971 0.325 0.065 0.380 0.015 0.804 0.046 0.433 0.121 0.943 0.504
#> 5 0.290 0.735 0.296 0.613 0.601 0.003 0.138 0.398 0.559 0.444 0.120 0.785 0.652 0.657 0.261 0.276
#> 6 0.252 0.690 0.410 0.834 0.750 0.625 0.573 0.697 0.355 0.475 0.274 0.089 0.941 0.683 0.997 0.123
#> var_96 var_97 var_98 var_99 var_100 var_101 var_102 var_103 var_104 var_105 var_106 var_107 var_108 var_109 var_110
#> 1 0.140 0.466 0.264 0.232 0.178 0.974 0.120 0.772 0.478 0.560 0.151 0.560 0.728 0.225 0.168
#> 2 0.763 0.280 0.268 0.374 0.781 0.577 0.577 0.096 0.919 0.500 0.046 0.234 0.126 0.268 0.825
#> 3 0.507 0.186 0.637 0.503 0.191 0.460 0.089 0.587 0.876 0.846 0.861 0.728 0.330 0.099 0.505
#> 4 0.684 0.746 0.187 0.666 0.762 0.065 0.822 0.239 0.863 0.551 0.239 0.607 0.143 0.804 0.454
#> 5 0.685 0.286 0.438 0.805 0.173 0.853 0.899 0.187 0.977 0.833 0.031 0.828 0.199 0.983 0.373
#> 6 0.480 0.398 0.113 0.249 0.932 0.798 0.895 0.209 0.388 0.673 0.786 0.235 0.460 0.252 0.913
#> var_111 var_112 var_113 var_114 var_115 var_116 var_117 var_118 var_119 var_120 var_121 var_122 var_123 var_124
#> 1 0.719 0.868 0.204 0.280 0.490 0.488 0.795 0.402 0.686 0.462 0.439 0.027 0.394 0.840
#> 2 0.897 0.385 0.994 0.390 0.221 0.606 0.009 0.559 0.315 0.766 0.444 0.755 0.474 0.302
#> 3 0.835 0.140 0.521 0.929 0.747 0.103 0.788 0.912 0.687 0.860 0.034 0.873 0.965 0.796
#> 4 0.292 0.354 0.628 0.867 0.650 0.737 0.358 0.285 0.827 0.167 0.440 0.181 0.963 0.534
#> 5 0.670 0.322 0.923 0.883 0.399 0.596 0.958 0.456 0.901 0.685 0.161 0.684 0.956 0.555
#> 6 0.509 0.921 0.279 0.856 0.858 0.594 0.345 0.656 0.716 0.496 0.462 0.088 0.320 0.226
#> var_125 var_126 var_127 var_128 var_129 var_130 var_131 var_132 var_133 var_134 var_135 var_136 var_137 var_138
#> 1 0.045 0.236 0.929 0.991 0.572 0.970 0.037 0.990 0.853 0.539 0.347 0.263 0.676 0.391
#> 2 0.055 0.524 0.622 0.747 0.300 0.298 0.023 0.625 0.671 0.414 0.230 0.589 0.273 0.377
#> 3 0.170 0.882 0.930 0.172 0.473 0.929 0.176 0.523 0.404 0.438 0.993 0.292 0.692 0.034
#> 4 0.258 0.214 0.645 0.393 0.215 0.993 0.609 0.849 0.056 0.093 0.692 0.700 0.449 0.320
#> 5 0.700 0.876 0.200 0.611 0.416 0.323 0.323 0.095 0.650 0.813 0.526 0.720 0.324 0.396
#> 6 0.892 0.176 0.166 0.609 0.230 0.954 0.713 0.582 0.724 0.484 0.333 0.337 0.860 0.124
#> var_139 var_140 var_141 var_142 var_143 var_144 var_145 var_146 var_147 var_148 var_149 var_150 var_151 var_152
#> 1 0.075 0.475 0.111 0.130 0.976 0.668 0.089 0.775 0.551 0.657 0.229 0.284 0.495 0.668
#> 2 0.289 0.814 0.644 0.378 0.193 0.634 0.842 0.057 0.583 0.436 0.771 0.519 0.703 0.799
#> 3 0.068 0.726 0.663 0.558 0.443 0.013 0.812 0.330 0.716 0.675 0.638 0.671 0.492 0.206
#> 4 0.039 0.828 0.815 0.228 0.552 0.836 0.403 0.881 0.595 0.943 0.617 0.875 0.948 0.124
#> 5 0.220 0.565 0.264 0.400 0.980 0.212 0.785 0.699 0.752 0.141 0.512 0.224 0.302 0.366
#> 6 0.519 0.712 0.187 0.040 0.333 0.831 0.394 0.974 0.113 0.995 0.642 0.259 0.423 0.823
#> var_153 var_154 var_155 var_156 var_157 var_158 var_159 var_160 var_161 var_162 var_163 var_164 var_165 var_166
#> 1 0.915 0.311 0.403 0.229 0.630 0.228 0.722 0.309 0.524 0.388 0.957 0.711 0.254 0.642
#> 2 0.754 0.603 0.605 0.886 0.367 0.392 0.597 0.081 0.517 0.984 0.950 0.886 0.764 0.505
#> 3 0.717 0.661 0.088 0.967 0.034 0.160 0.488 0.322 0.558 0.073 0.542 0.030 0.073 0.863
#> 4 0.601 0.598 0.010 0.497 0.058 0.748 0.249 0.968 0.335 0.097 0.908 0.119 0.748 0.510
#> 5 0.465 0.733 0.920 0.328 0.382 0.824 0.374 0.036 0.298 0.201 0.112 0.458 0.376 0.193
#> 6 0.138 0.084 0.258 0.640 0.967 0.009 0.499 0.121 0.166 0.733 0.610 0.181 0.055 0.110
#> var_167 var_168 var_169 var_170 var_171 var_172 var_173 var_174 var_175 var_176 var_177 var_178 var_179 var_180
#> 1 0.118 0.712 0.052 0.102 0.429 0.951 0.058 0.159 0.281 0.576 0.898 0.749 0.429 0.626
#> 2 0.849 0.056 0.907 0.374 0.598 0.989 0.807 0.819 0.074 0.374 0.467 0.646 0.425 0.074
#> 3 0.423 0.888 0.252 0.319 0.326 0.617 0.990 0.569 0.427 0.009 0.980 0.350 0.080 0.312
#> 4 0.959 0.349 0.162 0.207 0.302 0.265 0.817 0.280 0.225 0.325 0.406 0.459 0.099 0.723
#> 5 0.717 0.158 0.981 0.512 0.608 0.191 0.012 0.276 0.994 0.243 0.477 0.273 0.078 0.017
#> 6 0.599 0.113 0.815 0.409 0.214 0.982 0.315 0.836 0.401 0.264 0.191 0.298 0.005 0.736
#> var_181 var_182 var_183 var_184 var_185 var_186 var_187 var_188 var_189 var_190 var_191 var_192 var_193 var_194
#> 1 0.512 0.866 0.453 0.679 0.230 0.330 0.455 0.739 0.103 0.803 0.015 0.377 0.479 0.050
#> 2 0.359 0.250 0.029 0.269 0.003 0.881 0.694 0.848 0.796 0.164 0.112 0.048 0.088 0.860
#> 3 0.540 0.520 0.273 0.871 0.692 0.825 0.333 0.024 0.490 0.913 0.874 0.236 0.599 0.602
#> 4 0.406 0.127 0.336 0.534 0.654 0.587 0.592 0.104 0.175 0.576 0.219 0.691 0.261 0.031
#> 5 0.323 0.473 0.509 0.881 0.514 0.799 0.084 0.753 0.359 0.136 0.704 0.242 0.089 0.605
#> 6 0.171 0.415 0.724 0.618 0.661 0.791 0.310 0.962 0.564 0.526 0.027 0.296 0.362 0.983
#> var_195 var_196 var_197 var_198 var_199 var_200
#> 1 0.395 0.123 0.833 0.461 0.990 0.105
#> 2 0.560 0.346 0.511 0.883 0.858 0.599
#> 3 0.005 0.493 0.122 0.395 0.782 0.943
#> 4 0.968 0.353 0.798 0.104 0.944 0.090
#> 5 0.577 0.043 0.686 0.070 0.666 0.572
#> 6 0.348 0.509 0.447 0.803 0.911 0.998
tail(Data)
#> Target case_id train var_1 var_2 var_3 var_4 var_5 var_6 var_7 var_8 var_9 var_10 var_11 var_12 var_13 var_14
#> 19995 X1 19995 0 0.458 0.430 0.302 0.261 0.849 0.120 0.887 0.784 0.689 0.625 0.550 0.519 0.568 0.988
#> 19996 X0 19996 0 0.731 0.028 0.758 0.641 0.964 0.514 0.995 0.092 0.371 0.261 0.095 0.023 0.139 0.525
#> 19997 X1 19997 0 0.825 0.802 0.765 0.133 0.446 0.695 0.070 0.516 0.659 0.222 0.244 0.979 0.558 0.913
#> 19998 X0 19998 0 0.021 0.412 0.842 0.682 0.958 0.176 0.074 0.666 0.222 0.996 0.032 0.785 0.126 0.741
#> 19999 X1 19999 0 0.364 0.222 0.397 0.563 0.180 0.421 0.112 0.729 0.997 0.275 0.883 0.670 0.663 0.054
#> 20000 X1 20000 0 0.165 0.799 0.229 0.878 0.303 0.350 0.929 0.972 0.685 0.455 0.111 0.188 0.004 0.847
#> var_15 var_16 var_17 var_18 var_19 var_20 var_21 var_22 var_23 var_24 var_25 var_26 var_27 var_28 var_29 var_30
#> 19995 0.720 0.484 0.497 0.983 0.636 0.277 0.740 0.633 0.795 0.723 0.890 0.973 0.654 0.758 0.197 0.066
#> 19996 0.850 0.367 0.532 0.326 0.765 0.921 0.221 0.460 0.011 0.486 0.863 0.769 0.627 0.260 0.929 0.654
#> 19997 0.257 0.933 0.971 0.095 0.692 0.934 0.293 0.403 0.207 0.327 0.555 0.547 0.232 0.130 0.762 0.328
#> 19998 0.671 0.494 0.377 0.108 0.467 0.671 0.400 0.630 0.377 0.762 0.918 0.951 0.036 0.171 0.782 0.334
#> 19999 0.461 0.443 0.075 0.884 0.030 0.810 0.002 0.264 0.655 0.885 0.170 0.830 0.992 0.019 0.588 0.372
#> 20000 0.138 0.748 0.657 0.147 0.710 0.861 0.074 0.879 0.819 0.869 0.294 0.735 0.948 0.633 0.796 0.095
#> var_31 var_32 var_33 var_34 var_35 var_36 var_37 var_38 var_39 var_40 var_41 var_42 var_43 var_44 var_45 var_46
#> 19995 0.587 0.575 0.145 0.269 0.086 0.013 0.284 0.747 0.212 0.194 0.304 0.244 0.304 0.421 0.365 0.091
#> 19996 0.971 0.477 0.781 0.842 0.428 0.296 0.000 0.399 0.360 0.946 0.968 0.998 0.308 0.111 0.688 0.435
#> 19997 0.926 0.180 0.466 0.906 0.378 0.522 0.594 0.308 0.061 0.050 0.528 0.204 0.535 0.397 0.431 0.913
#> 19998 0.213 0.903 0.044 0.432 0.517 0.447 0.290 0.300 0.344 0.928 0.217 0.662 0.083 0.488 0.458 0.427
#> 19999 0.233 0.943 0.122 0.099 0.316 0.160 0.330 0.153 0.373 0.582 0.534 0.378 0.437 0.425 0.152 0.332
#> 20000 0.527 0.177 0.574 0.784 0.636 0.573 0.469 0.097 0.956 0.089 0.743 0.058 0.975 0.575 0.909 0.940
#> var_47 var_48 var_49 var_50 var_51 var_52 var_53 var_54 var_55 var_56 var_57 var_58 var_59 var_60 var_61 var_62
#> 19995 0.927 0.311 0.673 0.478 0.075 0.190 0.315 0.966 0.628 0.734 0.326 0.253 0.051 0.856 0.028 0.192
#> 19996 0.450 0.577 0.872 0.394 0.297 0.116 0.260 0.460 0.653 0.632 0.206 0.389 0.815 0.550 0.500 0.622
#> 19997 0.400 0.075 0.828 0.676 0.499 0.868 0.432 0.166 0.371 0.470 0.221 0.259 0.955 0.377 0.771 0.046
#> 19998 0.571 0.930 0.666 0.453 0.793 0.610 0.836 0.565 0.838 0.575 0.887 0.821 0.100 0.957 0.488 0.022
#> 19999 0.392 0.345 0.275 0.558 0.181 0.834 0.495 0.092 0.252 0.855 0.982 0.234 0.267 0.736 0.814 0.564
#> 20000 0.439 0.104 0.810 0.027 0.057 0.862 0.946 0.632 0.452 0.294 0.051 0.363 0.365 0.486 0.926 0.635
#> var_63 var_64 var_65 var_66 var_67 var_68 var_69 var_70 var_71 var_72 var_73 var_74 var_75 var_76 var_77 var_78
#> 19995 0.352 0.851 0.601 0.053 0.280 0.783 0.913 0.043 0.779 0.127 0.601 0.067 0.696 0.662 0.394 0.747
#> 19996 0.024 0.452 0.450 0.048 0.173 0.978 0.207 0.023 0.756 0.955 0.347 0.635 0.072 0.797 0.696 0.218
#> 19997 0.542 0.028 0.827 0.096 0.980 0.195 0.139 0.981 0.124 0.622 0.531 0.030 0.542 0.919 0.240 0.355
#> 19998 0.731 0.611 0.139 0.485 0.345 0.005 0.495 0.055 0.973 0.362 0.948 0.368 0.262 0.053 0.453 0.375
#> 19999 0.052 0.310 0.554 0.203 0.801 0.306 0.079 0.335 0.532 0.989 0.659 0.966 0.784 0.050 0.279 0.944
#> 20000 0.110 0.814 0.509 0.442 0.273 0.826 0.211 0.364 0.670 0.393 0.490 0.842 0.546 0.090 0.679 0.686
#> var_79 var_80 var_81 var_82 var_83 var_84 var_85 var_86 var_87 var_88 var_89 var_90 var_91 var_92 var_93 var_94
#> 19995 0.727 0.606 0.696 0.685 0.627 0.013 0.411 0.983 0.656 0.409 0.022 0.003 0.289 0.685 0.920 0.385
#> 19996 0.682 0.138 0.409 0.120 0.106 0.729 0.298 0.715 0.780 0.575 0.411 0.675 0.257 0.326 0.859 0.477
#> 19997 0.466 0.701 0.484 0.109 0.997 0.976 0.296 0.005 0.559 0.792 0.601 0.083 0.596 0.120 0.544 0.721
#> 19998 0.932 0.232 0.606 0.096 0.474 0.731 0.974 0.647 0.112 0.200 0.670 0.497 0.996 0.497 0.185 0.988
#> 19999 0.574 0.747 0.228 0.225 0.602 0.299 0.916 0.386 0.701 0.519 0.959 0.389 0.538 0.714 0.506 0.604
#> 20000 0.029 0.842 0.066 0.845 0.837 0.813 0.222 0.422 0.225 0.547 0.577 0.937 0.192 0.358 0.250 0.845
#> var_95 var_96 var_97 var_98 var_99 var_100 var_101 var_102 var_103 var_104 var_105 var_106 var_107 var_108
#> 19995 0.165 0.236 0.980 0.316 0.291 0.353 0.391 0.040 0.495 0.864 0.735 0.626 0.131 0.023
#> 19996 0.663 0.919 0.894 0.176 0.398 0.468 0.240 0.417 0.089 0.402 0.667 0.702 0.794 0.861
#> 19997 0.534 0.002 0.066 0.905 0.977 0.934 0.736 0.744 0.163 0.514 0.826 0.233 0.669 0.328
#> 19998 0.662 0.327 0.463 0.102 0.732 0.136 0.229 0.470 0.868 0.249 0.572 0.646 0.977 0.262
#> 19999 0.573 0.817 0.816 0.066 0.260 0.784 0.085 0.998 0.496 0.231 0.528 0.571 0.330 0.326
#> 20000 0.935 0.973 0.126 0.304 0.548 0.419 0.186 0.184 0.979 0.165 0.083 0.338 0.231 0.514
#> var_109 var_110 var_111 var_112 var_113 var_114 var_115 var_116 var_117 var_118 var_119 var_120 var_121 var_122
#> 19995 0.312 0.986 0.028 0.651 0.721 0.136 0.698 0.526 0.686 0.716 0.786 0.028 0.135 0.753
#> 19996 0.820 0.904 0.455 0.331 0.300 0.034 0.599 0.541 0.991 0.257 0.297 0.595 0.634 0.157
#> 19997 0.641 0.271 0.360 0.091 0.095 0.927 0.594 0.041 0.541 0.951 0.676 0.574 0.850 0.548
#> 19998 0.766 0.617 0.660 0.681 0.353 0.569 0.918 0.817 0.469 0.905 0.105 0.918 0.424 0.510
#> 19999 0.702 0.921 0.913 0.930 0.089 0.418 0.700 0.985 0.921 0.177 0.907 0.159 0.259 0.827
#> 20000 0.971 0.117 0.815 0.243 0.583 0.134 0.457 0.492 0.559 0.279 0.045 0.908 0.027 0.988
#> var_123 var_124 var_125 var_126 var_127 var_128 var_129 var_130 var_131 var_132 var_133 var_134 var_135 var_136
#> 19995 0.773 0.024 0.529 0.677 0.931 0.010 0.439 0.588 0.525 0.505 0.376 0.768 0.266 0.687
#> 19996 0.360 0.372 0.661 0.252 0.795 0.159 0.271 0.759 0.511 0.546 0.756 0.614 0.267 0.566
#> 19997 0.561 0.140 0.737 0.386 0.807 0.380 0.338 0.864 0.774 0.520 0.043 0.630 0.086 0.007
#> 19998 0.131 0.570 0.528 0.264 0.914 0.331 0.171 0.813 0.084 0.621 0.150 0.579 0.936 0.869
#> 19999 0.211 0.734 0.323 0.524 0.705 0.745 0.065 0.220 0.098 0.374 0.004 0.175 0.172 0.590
#> 20000 0.836 0.030 0.423 0.756 0.909 0.937 0.581 0.902 0.866 0.131 0.050 0.587 0.787 0.686
#> var_137 var_138 var_139 var_140 var_141 var_142 var_143 var_144 var_145 var_146 var_147 var_148 var_149 var_150
#> 19995 0.864 0.452 0.015 0.286 0.776 0.839 0.736 0.726 0.904 0.362 0.696 0.512 0.794 0.197
#> 19996 0.082 0.731 0.879 0.084 0.715 0.524 0.672 0.438 0.701 0.668 0.183 0.332 0.994 0.117
#> 19997 0.569 0.344 0.324 0.404 0.290 0.693 0.988 0.528 0.817 0.659 0.694 0.843 0.824 0.035
#> 19998 0.245 0.027 0.634 0.895 0.054 0.185 0.662 0.560 0.063 0.402 0.530 0.647 0.978 0.371
#> 19999 0.298 0.724 0.482 0.035 0.076 0.293 0.314 0.174 0.015 0.666 0.879 0.675 0.166 0.496
#> 20000 0.678 0.078 0.435 0.629 0.440 0.265 0.703 0.589 0.515 0.424 0.324 0.683 0.614 0.236
#> var_151 var_152 var_153 var_154 var_155 var_156 var_157 var_158 var_159 var_160 var_161 var_162 var_163 var_164
#> 19995 0.924 0.874 0.819 0.037 0.909 0.656 0.511 0.100 0.556 0.456 0.136 0.399 0.388 0.019
#> 19996 0.112 0.974 0.031 0.367 0.529 0.468 0.563 0.976 0.325 0.453 0.736 0.328 0.916 0.995
#> 19997 0.630 0.098 0.125 0.187 0.258 0.217 0.007 0.071 0.267 0.446 0.800 0.504 0.779 0.734
#> 19998 0.724 0.010 0.305 0.391 0.911 0.960 0.175 0.881 0.393 0.904 0.421 0.151 0.807 0.243
#> 19999 0.778 0.057 0.038 0.078 0.694 0.578 0.919 0.356 0.352 0.376 0.457 0.195 0.721 0.859
#> 20000 0.819 0.659 0.556 0.049 0.703 0.283 0.103 0.398 0.937 0.985 0.030 0.767 0.633 0.746
#> var_165 var_166 var_167 var_168 var_169 var_170 var_171 var_172 var_173 var_174 var_175 var_176 var_177 var_178
#> 19995 0.523 0.259 0.998 0.875 0.144 0.075 0.756 0.231 0.441 0.338 0.756 0.112 0.402 0.893
#> 19996 0.411 0.644 0.195 0.730 0.749 0.254 0.734 0.247 0.038 0.111 0.242 0.739 0.769 0.554
#> 19997 0.715 0.670 0.797 0.382 0.915 0.893 0.913 0.928 0.844 0.651 0.257 0.293 0.808 0.839
#> 19998 0.912 0.411 0.082 0.504 0.124 0.042 0.638 0.736 0.973 0.109 0.844 0.149 0.892 0.127
#> 19999 0.491 0.896 0.464 0.346 0.125 0.956 0.647 0.959 0.058 0.092 0.684 0.761 0.161 0.501
#> 20000 0.458 0.604 0.003 0.237 0.432 0.593 0.566 0.216 0.744 0.160 0.599 0.161 0.020 0.246
#> var_179 var_180 var_181 var_182 var_183 var_184 var_185 var_186 var_187 var_188 var_189 var_190 var_191 var_192
#> 19995 0.026 0.750 0.393 0.456 0.977 0.226 0.233 0.384 0.105 0.361 0.523 0.683 0.948 0.854
#> 19996 0.262 0.884 0.964 0.325 0.129 0.993 0.758 0.836 0.171 0.395 0.222 0.683 0.161 0.082
#> 19997 0.705 0.164 0.800 0.288 0.326 0.644 0.582 0.529 0.091 0.134 0.009 0.809 0.822 0.479
#> 19998 0.716 0.005 0.158 0.077 0.873 0.758 0.470 0.672 0.742 0.446 0.781 0.871 0.004 0.329
#> 19999 0.548 0.149 0.309 0.376 0.219 0.492 0.452 0.674 0.391 0.026 0.950 0.130 0.422 0.990
#> 20000 0.843 0.166 0.041 0.322 0.452 0.081 0.323 0.650 0.199 0.899 0.945 0.803 0.927 0.401
#> var_193 var_194 var_195 var_196 var_197 var_198 var_199 var_200
#> 19995 0.225 0.283 0.287 0.677 0.488 0.544 0.598 0.712
#> 19996 0.445 0.413 0.021 0.596 0.861 0.538 0.779 0.174
#> 19997 0.608 0.356 0.397 0.357 0.410 0.894 0.204 0.920
#> 19998 0.369 0.646 0.308 0.782 0.173 0.998 0.212 0.435
#> 19999 0.148 0.523 0.536 0.018 0.203 0.192 0.281 0.781
#> 20000 0.630 0.429 0.256 0.043 0.069 0.267 0.531 0.101
head(trainset)
#> Target var_1 var_2 var_3 var_4 var_5 var_6 var_7 var_8 var_9 var_10 var_11 var_12 var_13 var_14 var_15 var_16 var_17
#> 1 X0 0.660 0.106 0.434 0.387 0.903 0.661 0.158 0.291 0.210 0.936 0.994 0.052 0.370 0.376 0.166 0.309 0.531
#> 2 X1 0.844 0.813 0.030 0.939 0.721 0.287 0.539 0.874 0.787 0.732 0.530 0.176 0.301 0.180 0.466 0.774 0.538
#> 3 X0 0.560 0.567 0.568 0.434 0.414 0.180 0.448 0.888 0.023 0.690 0.155 0.301 0.429 0.782 0.199 0.457 0.348
#> 4 X0 0.681 0.245 0.909 0.785 0.738 0.570 0.692 0.411 0.182 0.520 0.245 0.796 0.152 0.492 0.938 0.138 0.114
#> 5 X0 0.846 0.431 0.805 0.237 0.465 0.642 0.219 0.102 0.795 0.131 0.568 0.857 0.381 0.071 0.895 0.677 0.757
#> 6 X0 0.961 0.910 0.399 0.860 0.883 0.032 0.618 0.694 0.155 0.138 0.783 0.006 0.046 0.236 0.426 0.513 0.464
#> var_18 var_19 var_20 var_21 var_22 var_23 var_24 var_25 var_26 var_27 var_28 var_29 var_30 var_31 var_32 var_33
#> 1 0.347 0.142 0.970 0.032 0.646 0.087 0.854 0.477 0.275 0.564 0.582 0.064 0.448 0.490 0.718 0.166
#> 2 0.617 0.957 0.150 0.121 0.992 0.715 0.475 0.592 0.486 0.760 0.007 0.247 0.028 0.870 0.723 0.208
#> 3 0.122 0.147 0.969 0.996 0.871 0.071 0.928 0.168 0.455 0.260 0.786 0.569 0.578 0.165 0.501 0.386
#> 4 0.896 0.105 0.749 0.193 0.170 0.995 0.196 0.751 0.046 0.973 0.694 0.210 0.065 0.978 0.740 0.135
#> 5 0.679 0.116 0.137 0.268 0.730 0.463 0.843 0.151 0.325 0.197 0.332 0.862 0.907 0.554 0.206 0.657
#> 6 0.413 0.853 0.611 0.288 0.844 0.097 0.510 0.944 0.064 0.123 0.631 0.236 0.475 0.279 0.242 0.419
#> var_34 var_35 var_36 var_37 var_38 var_39 var_40 var_41 var_42 var_43 var_44 var_45 var_46 var_47 var_48 var_49
#> 1 0.863 0.336 0.158 0.155 0.213 0.584 0.773 0.484 0.954 0.426 0.298 0.011 0.323 0.720 0.470 0.582
#> 2 0.058 0.284 0.219 0.758 0.545 0.657 0.843 0.913 0.254 0.261 0.088 0.252 0.257 0.440 0.236 0.998
#> 3 0.487 0.605 0.928 0.121 0.491 0.220 0.455 0.668 0.720 0.178 0.899 0.639 0.148 0.119 0.644 0.945
#> 4 0.344 0.222 0.011 0.562 0.591 0.145 0.500 0.574 0.370 0.617 0.909 0.129 0.617 0.392 0.286 0.140
#> 5 0.523 0.952 0.525 0.416 0.345 0.440 0.449 0.724 0.430 0.408 0.127 0.198 0.740 0.533 0.836 0.065
#> 6 0.122 0.998 0.352 0.533 0.700 0.757 0.848 0.977 0.824 0.273 0.889 0.338 0.542 0.961 0.543 0.471
#> var_50 var_51 var_52 var_53 var_54 var_55 var_56 var_57 var_58 var_59 var_60 var_61 var_62 var_63 var_64 var_65
#> 1 0.597 0.191 0.426 0.853 0.614 0.888 0.336 0.376 0.540 0.881 0.297 0.919 0.878 0.219 0.476 0.049
#> 2 0.702 0.314 0.244 0.341 0.827 0.727 0.886 0.020 0.228 0.458 0.144 0.150 0.373 0.665 0.849 0.302
#> 3 0.855 0.369 0.031 0.623 0.543 0.383 0.003 0.916 0.301 0.457 0.987 0.594 0.622 0.675 0.044 0.543
#> 4 0.406 0.811 0.921 0.802 0.964 0.756 0.484 0.171 0.936 0.851 0.413 0.991 0.904 0.917 0.560 0.772
#> 5 0.405 0.987 0.375 0.992 0.240 0.888 0.705 0.160 0.511 0.001 0.838 0.596 0.949 0.696 0.977 0.752
#> 6 0.106 0.635 0.682 0.824 0.979 0.460 0.120 0.021 0.110 0.159 0.003 0.683 0.441 0.462 0.451 0.513
#> var_66 var_67 var_68 var_69 var_70 var_71 var_72 var_73 var_74 var_75 var_76 var_77 var_78 var_79 var_80 var_81
#> 1 0.739 0.133 0.495 0.960 0.355 0.487 0.076 0.548 0.849 0.479 0.929 0.744 0.243 0.602 0.896 0.087
#> 2 0.366 0.597 0.573 0.825 0.965 0.540 0.764 0.432 0.849 0.026 0.145 0.023 0.128 0.282 0.346 0.764
#> 3 0.667 0.114 0.253 0.584 0.783 0.298 0.357 0.557 0.266 0.900 0.648 0.643 0.378 0.696 0.111 0.950
#> 4 0.148 0.673 0.076 0.119 0.665 0.692 0.557 0.311 0.433 0.602 0.430 0.128 0.928 0.541 0.597 0.926
#> 5 0.015 0.149 0.910 0.327 0.420 0.794 0.647 0.352 0.886 0.026 0.314 0.514 0.163 0.156 0.290 0.735
#> 6 0.680 0.813 0.449 0.619 0.311 0.319 0.986 0.097 0.863 0.955 0.446 0.854 0.425 0.020 0.252 0.690
#> var_82 var_83 var_84 var_85 var_86 var_87 var_88 var_89 var_90 var_91 var_92 var_93 var_94 var_95 var_96 var_97
#> 1 0.730 0.838 0.338 0.556 0.189 0.119 0.778 0.645 0.947 0.022 0.790 0.694 0.797 0.730 0.140 0.466
#> 2 0.116 0.933 0.802 0.418 0.339 0.959 0.889 0.919 0.808 0.893 0.315 0.201 0.528 0.280 0.763 0.280
#> 3 0.614 0.767 0.816 0.336 0.213 0.953 0.553 0.485 0.930 0.557 0.730 0.242 0.046 0.295 0.507 0.186
#> 4 0.886 0.857 0.324 0.971 0.325 0.065 0.380 0.015 0.804 0.046 0.433 0.121 0.943 0.504 0.684 0.746
#> 5 0.296 0.613 0.601 0.003 0.138 0.398 0.559 0.444 0.120 0.785 0.652 0.657 0.261 0.276 0.685 0.286
#> 6 0.410 0.834 0.750 0.625 0.573 0.697 0.355 0.475 0.274 0.089 0.941 0.683 0.997 0.123 0.480 0.398
#> var_98 var_99 var_100 var_101 var_102 var_103 var_104 var_105 var_106 var_107 var_108 var_109 var_110 var_111 var_112
#> 1 0.264 0.232 0.178 0.974 0.120 0.772 0.478 0.560 0.151 0.560 0.728 0.225 0.168 0.719 0.868
#> 2 0.268 0.374 0.781 0.577 0.577 0.096 0.919 0.500 0.046 0.234 0.126 0.268 0.825 0.897 0.385
#> 3 0.637 0.503 0.191 0.460 0.089 0.587 0.876 0.846 0.861 0.728 0.330 0.099 0.505 0.835 0.140
#> 4 0.187 0.666 0.762 0.065 0.822 0.239 0.863 0.551 0.239 0.607 0.143 0.804 0.454 0.292 0.354
#> 5 0.438 0.805 0.173 0.853 0.899 0.187 0.977 0.833 0.031 0.828 0.199 0.983 0.373 0.670 0.322
#> 6 0.113 0.249 0.932 0.798 0.895 0.209 0.388 0.673 0.786 0.235 0.460 0.252 0.913 0.509 0.921
#> var_113 var_114 var_115 var_116 var_117 var_118 var_119 var_120 var_121 var_122 var_123 var_124 var_125 var_126
#> 1 0.204 0.280 0.490 0.488 0.795 0.402 0.686 0.462 0.439 0.027 0.394 0.840 0.045 0.236
#> 2 0.994 0.390 0.221 0.606 0.009 0.559 0.315 0.766 0.444 0.755 0.474 0.302 0.055 0.524
#> 3 0.521 0.929 0.747 0.103 0.788 0.912 0.687 0.860 0.034 0.873 0.965 0.796 0.170 0.882
#> 4 0.628 0.867 0.650 0.737 0.358 0.285 0.827 0.167 0.440 0.181 0.963 0.534 0.258 0.214
#> 5 0.923 0.883 0.399 0.596 0.958 0.456 0.901 0.685 0.161 0.684 0.956 0.555 0.700 0.876
#> 6 0.279 0.856 0.858 0.594 0.345 0.656 0.716 0.496 0.462 0.088 0.320 0.226 0.892 0.176
#> var_127 var_128 var_129 var_130 var_131 var_132 var_133 var_134 var_135 var_136 var_137 var_138 var_139 var_140
#> 1 0.929 0.991 0.572 0.970 0.037 0.990 0.853 0.539 0.347 0.263 0.676 0.391 0.075 0.475
#> 2 0.622 0.747 0.300 0.298 0.023 0.625 0.671 0.414 0.230 0.589 0.273 0.377 0.289 0.814
#> 3 0.930 0.172 0.473 0.929 0.176 0.523 0.404 0.438 0.993 0.292 0.692 0.034 0.068 0.726
#> 4 0.645 0.393 0.215 0.993 0.609 0.849 0.056 0.093 0.692 0.700 0.449 0.320 0.039 0.828
#> 5 0.200 0.611 0.416 0.323 0.323 0.095 0.650 0.813 0.526 0.720 0.324 0.396 0.220 0.565
#> 6 0.166 0.609 0.230 0.954 0.713 0.582 0.724 0.484 0.333 0.337 0.860 0.124 0.519 0.712
#> var_141 var_142 var_143 var_144 var_145 var_146 var_147 var_148 var_149 var_150 var_151 var_152 var_153 var_154
#> 1 0.111 0.130 0.976 0.668 0.089 0.775 0.551 0.657 0.229 0.284 0.495 0.668 0.915 0.311
#> 2 0.644 0.378 0.193 0.634 0.842 0.057 0.583 0.436 0.771 0.519 0.703 0.799 0.754 0.603
#> 3 0.663 0.558 0.443 0.013 0.812 0.330 0.716 0.675 0.638 0.671 0.492 0.206 0.717 0.661
#> 4 0.815 0.228 0.552 0.836 0.403 0.881 0.595 0.943 0.617 0.875 0.948 0.124 0.601 0.598
#> 5 0.264 0.400 0.980 0.212 0.785 0.699 0.752 0.141 0.512 0.224 0.302 0.366 0.465 0.733
#> 6 0.187 0.040 0.333 0.831 0.394 0.974 0.113 0.995 0.642 0.259 0.423 0.823 0.138 0.084
#> var_155 var_156 var_157 var_158 var_159 var_160 var_161 var_162 var_163 var_164 var_165 var_166 var_167 var_168
#> 1 0.403 0.229 0.630 0.228 0.722 0.309 0.524 0.388 0.957 0.711 0.254 0.642 0.118 0.712
#> 2 0.605 0.886 0.367 0.392 0.597 0.081 0.517 0.984 0.950 0.886 0.764 0.505 0.849 0.056
#> 3 0.088 0.967 0.034 0.160 0.488 0.322 0.558 0.073 0.542 0.030 0.073 0.863 0.423 0.888
#> 4 0.010 0.497 0.058 0.748 0.249 0.968 0.335 0.097 0.908 0.119 0.748 0.510 0.959 0.349
#> 5 0.920 0.328 0.382 0.824 0.374 0.036 0.298 0.201 0.112 0.458 0.376 0.193 0.717 0.158
#> 6 0.258 0.640 0.967 0.009 0.499 0.121 0.166 0.733 0.610 0.181 0.055 0.110 0.599 0.113
#> var_169 var_170 var_171 var_172 var_173 var_174 var_175 var_176 var_177 var_178 var_179 var_180 var_181 var_182
#> 1 0.052 0.102 0.429 0.951 0.058 0.159 0.281 0.576 0.898 0.749 0.429 0.626 0.512 0.866
#> 2 0.907 0.374 0.598 0.989 0.807 0.819 0.074 0.374 0.467 0.646 0.425 0.074 0.359 0.250
#> 3 0.252 0.319 0.326 0.617 0.990 0.569 0.427 0.009 0.980 0.350 0.080 0.312 0.540 0.520
#> 4 0.162 0.207 0.302 0.265 0.817 0.280 0.225 0.325 0.406 0.459 0.099 0.723 0.406 0.127
#> 5 0.981 0.512 0.608 0.191 0.012 0.276 0.994 0.243 0.477 0.273 0.078 0.017 0.323 0.473
#> 6 0.815 0.409 0.214 0.982 0.315 0.836 0.401 0.264 0.191 0.298 0.005 0.736 0.171 0.415
#> var_183 var_184 var_185 var_186 var_187 var_188 var_189 var_190 var_191 var_192 var_193 var_194 var_195 var_196
#> 1 0.453 0.679 0.230 0.330 0.455 0.739 0.103 0.803 0.015 0.377 0.479 0.050 0.395 0.123
#> 2 0.029 0.269 0.003 0.881 0.694 0.848 0.796 0.164 0.112 0.048 0.088 0.860 0.560 0.346
#> 3 0.273 0.871 0.692 0.825 0.333 0.024 0.490 0.913 0.874 0.236 0.599 0.602 0.005 0.493
#> 4 0.336 0.534 0.654 0.587 0.592 0.104 0.175 0.576 0.219 0.691 0.261 0.031 0.968 0.353
#> 5 0.509 0.881 0.514 0.799 0.084 0.753 0.359 0.136 0.704 0.242 0.089 0.605 0.577 0.043
#> 6 0.724 0.618 0.661 0.791 0.310 0.962 0.564 0.526 0.027 0.296 0.362 0.983 0.348 0.509
#> var_197 var_198 var_199 var_200
#> 1 0.833 0.461 0.990 0.105
#> 2 0.511 0.883 0.858 0.599
#> 3 0.122 0.395 0.782 0.943
#> 4 0.798 0.104 0.944 0.090
#> 5 0.686 0.070 0.666 0.572
#> 6 0.447 0.803 0.911 0.998
head(testset)
#> Target case_id train var_1 var_2 var_3 var_4 var_5 var_6 var_7 var_8 var_9 var_10 var_11 var_12 var_13 var_14
#> 251 X1 251 0 0.182 0.056 0.033 0.237 0.405 0.001 0.605 0.552 0.620 0.131 0.140 0.419 0.853 0.178
#> 252 X1 252 0 0.181 0.976 0.024 0.513 0.331 0.459 0.021 0.436 0.075 0.949 0.642 0.553 0.034 0.389
#> 253 X0 253 0 0.173 0.556 0.113 0.261 0.547 0.938 0.701 0.545 0.807 0.075 0.795 0.998 0.483 0.185
#> 254 X0 254 0 0.939 0.956 0.318 0.925 0.215 0.451 0.107 0.989 0.987 0.499 0.133 0.654 0.004 0.655
#> 255 X1 255 0 0.023 0.041 0.549 0.280 0.514 0.964 0.844 0.456 0.050 0.412 0.581 0.248 0.916 0.344
#> 256 X0 256 0 0.237 0.877 0.103 0.928 0.137 0.894 0.156 0.713 0.199 0.710 0.953 0.834 0.553 0.748
#> var_15 var_16 var_17 var_18 var_19 var_20 var_21 var_22 var_23 var_24 var_25 var_26 var_27 var_28 var_29 var_30
#> 251 0.008 0.042 0.555 0.604 0.383 0.209 0.427 0.118 0.699 0.931 0.499 0.443 0.353 0.332 0.458 0.330
#> 252 0.617 0.985 0.910 0.487 0.390 0.718 0.814 0.728 0.068 0.739 0.838 0.639 0.626 0.434 0.892 0.310
#> 253 0.302 0.221 0.842 0.281 0.743 0.956 0.713 0.687 0.712 0.734 0.569 0.801 0.579 0.762 0.850 0.111
#> 254 0.289 0.561 0.411 0.303 0.990 0.776 0.070 0.666 0.127 0.932 0.143 0.074 0.276 0.621 0.916 0.478
#> 255 0.450 0.898 0.444 0.573 0.571 0.358 0.843 0.286 0.949 0.928 0.277 0.806 0.174 0.146 0.190 0.611
#> 256 0.794 0.700 0.034 0.314 0.318 0.711 0.509 0.621 0.452 0.393 0.455 0.049 0.618 0.797 0.789 0.663
#> var_31 var_32 var_33 var_34 var_35 var_36 var_37 var_38 var_39 var_40 var_41 var_42 var_43 var_44 var_45 var_46
#> 251 0.655 0.793 0.226 0.822 0.034 0.339 0.791 0.774 0.491 0.281 0.279 0.615 0.299 0.108 0.289 0.366
#> 252 0.363 0.223 0.775 0.155 0.599 0.456 0.506 0.927 0.634 0.546 0.903 0.988 0.947 0.366 0.409 0.821
#> 253 0.439 0.064 0.546 0.462 0.318 0.874 0.021 0.572 0.628 0.272 0.095 0.797 0.865 0.078 0.370 0.143
#> 254 0.143 0.035 0.881 0.217 0.273 0.852 0.061 0.035 1.000 0.382 0.589 0.343 0.651 0.956 0.537 0.737
#> 255 0.378 0.932 0.889 0.596 0.434 0.976 0.366 0.592 0.415 0.377 0.382 0.130 0.289 0.539 0.793 0.457
#> 256 0.183 0.132 0.942 0.978 0.164 0.660 0.192 0.975 0.181 0.835 0.239 0.366 0.659 0.695 0.034 0.112
#> var_47 var_48 var_49 var_50 var_51 var_52 var_53 var_54 var_55 var_56 var_57 var_58 var_59 var_60 var_61 var_62
#> 251 0.963 0.625 0.465 0.902 0.413 0.347 0.328 0.472 0.468 0.136 0.355 0.463 0.530 0.093 0.303 0.415
#> 252 0.653 0.889 0.170 0.796 0.201 0.075 0.367 0.187 0.333 0.016 0.789 0.437 0.281 0.323 0.665 0.674
#> 253 0.568 0.994 0.806 0.540 0.516 0.989 0.554 0.348 0.187 0.945 0.031 0.129 0.456 0.546 0.248 0.662
#> 254 0.999 0.565 0.995 0.764 0.970 0.751 0.395 0.936 0.587 0.751 0.094 0.996 0.182 0.882 0.199 0.437
#> 255 0.879 0.306 0.127 0.800 0.064 0.356 0.413 0.885 0.231 0.841 0.258 0.700 0.978 0.275 0.180 0.511
#> 256 0.281 0.500 0.856 0.184 0.693 0.624 0.644 0.583 0.457 0.699 0.570 0.604 0.251 1.000 0.870 0.350
#> var_63 var_64 var_65 var_66 var_67 var_68 var_69 var_70 var_71 var_72 var_73 var_74 var_75 var_76 var_77 var_78
#> 251 0.544 0.700 0.789 0.285 0.195 0.208 0.121 0.967 0.368 0.282 0.371 0.054 0.845 0.886 0.707 0.855
#> 252 0.226 0.767 0.739 0.476 0.998 0.175 0.602 0.885 0.028 0.561 0.265 0.677 0.553 0.526 0.993 0.875
#> 253 0.553 0.419 0.390 0.206 0.262 0.522 0.642 0.016 0.376 0.788 0.269 0.114 0.401 0.013 0.942 0.295
#> 254 0.846 0.187 0.646 0.260 0.130 0.321 0.529 0.998 0.002 0.697 0.678 0.977 0.047 0.871 0.483 0.831
#> 255 0.069 0.680 0.178 0.128 0.637 0.972 0.567 0.420 0.635 0.603 0.052 0.083 0.540 0.451 0.059 0.653
#> 256 0.326 0.087 0.922 0.501 0.206 0.701 0.573 0.326 0.644 0.895 0.718 0.953 0.822 0.434 0.130 0.880
#> var_79 var_80 var_81 var_82 var_83 var_84 var_85 var_86 var_87 var_88 var_89 var_90 var_91 var_92 var_93 var_94
#> 251 0.261 0.426 0.970 0.662 0.307 0.145 0.501 0.261 0.182 0.754 0.221 0.703 0.297 0.333 0.958 0.317
#> 252 0.071 0.894 0.377 0.511 0.040 0.601 0.668 0.651 0.832 0.840 0.351 0.650 0.940 0.449 0.975 0.676
#> 253 0.506 0.000 0.319 0.401 0.731 0.947 0.869 0.833 0.435 0.085 0.955 0.318 0.001 0.577 0.159 0.921
#> 254 0.921 0.185 0.980 0.272 0.055 0.660 0.171 0.101 0.609 0.132 0.609 0.475 0.670 0.646 0.222 0.424
#> 255 0.309 0.964 0.312 0.770 0.578 0.545 0.660 0.701 0.115 0.198 0.156 0.095 0.528 0.415 0.387 0.010
#> 256 0.807 0.431 0.533 0.743 0.253 0.237 0.934 0.332 0.353 0.583 0.203 0.856 0.045 0.971 0.895 0.456
#> var_95 var_96 var_97 var_98 var_99 var_100 var_101 var_102 var_103 var_104 var_105 var_106 var_107 var_108 var_109
#> 251 0.229 0.465 0.026 0.975 0.923 0.628 0.050 0.609 0.145 0.837 0.050 0.978 0.185 0.534 0.764
#> 252 0.426 0.553 0.229 0.469 0.628 0.451 0.274 0.364 0.109 0.763 0.317 0.547 0.867 0.814 0.443
#> 253 0.792 0.648 0.861 0.317 0.350 0.985 0.066 0.302 0.851 0.373 0.484 0.557 0.808 0.584 0.857
#> 254 0.713 0.096 0.390 0.617 0.296 0.114 0.278 0.373 0.020 0.215 0.409 0.932 0.729 0.179 0.497
#> 255 0.214 0.318 0.048 0.169 0.562 0.049 0.774 0.480 0.409 0.413 0.216 0.803 0.741 0.765 0.370
#> 256 0.462 0.315 0.333 0.978 0.635 0.830 0.936 0.980 0.450 0.173 0.794 0.002 0.848 0.833 0.498
#> var_110 var_111 var_112 var_113 var_114 var_115 var_116 var_117 var_118 var_119 var_120 var_121 var_122 var_123
#> 251 0.678 0.810 0.727 0.227 0.415 0.470 0.383 0.601 0.516 0.747 0.067 0.253 0.694 0.060
#> 252 0.582 0.779 0.280 0.688 0.166 0.312 0.074 0.375 0.152 0.473 0.491 0.682 0.810 0.009
#> 253 0.670 0.023 0.522 0.537 0.396 0.794 0.611 0.315 0.176 0.363 0.436 0.499 0.898 0.621
#> 254 0.970 0.960 0.703 0.521 0.360 0.653 0.283 0.055 0.193 0.100 0.356 0.846 0.041 0.147
#> 255 0.963 0.646 0.152 0.155 0.015 0.517 0.706 0.241 0.763 0.507 0.282 0.126 0.523 0.231
#> 256 0.083 0.278 0.776 0.219 0.522 0.403 0.329 0.035 0.899 0.047 0.325 0.510 0.335 0.406
#> var_124 var_125 var_126 var_127 var_128 var_129 var_130 var_131 var_132 var_133 var_134 var_135 var_136 var_137
#> 251 0.835 0.081 0.068 0.618 0.371 0.093 0.424 0.624 0.380 0.236 0.734 0.726 0.228 0.474
#> 252 0.594 0.478 0.347 0.868 0.861 0.400 0.668 0.894 0.067 0.178 0.394 0.785 0.433 0.215
#> 253 0.633 0.241 0.920 0.063 0.033 0.116 0.329 0.989 0.046 0.949 0.459 0.959 0.309 0.896
#> 254 0.694 0.641 0.472 0.650 0.043 0.269 0.818 0.177 0.012 0.961 0.190 0.961 0.215 0.940
#> 255 0.348 0.467 0.140 0.718 0.127 0.654 0.250 0.617 0.989 0.643 0.803 0.645 0.090 0.031
#> 256 0.493 0.520 0.013 0.496 0.097 0.333 0.941 0.857 0.830 0.939 0.967 0.507 0.949 0.621
#> var_138 var_139 var_140 var_141 var_142 var_143 var_144 var_145 var_146 var_147 var_148 var_149 var_150 var_151
#> 251 0.919 0.723 0.834 0.116 0.866 0.516 0.808 0.393 0.693 0.310 0.842 0.286 0.268 0.071
#> 252 0.130 0.294 0.012 0.414 0.974 0.682 0.330 0.260 0.291 0.425 0.278 0.142 0.720 0.160
#> 253 0.658 0.492 0.572 0.770 0.300 0.025 0.840 0.617 0.057 0.111 0.763 0.549 0.406 0.877
#> 254 0.741 0.102 0.663 0.236 0.184 0.022 0.400 0.776 0.558 0.169 0.401 0.703 0.243 0.966
#> 255 0.822 0.298 0.261 0.383 0.419 0.795 0.152 0.813 0.066 0.288 0.621 0.813 0.104 0.313
#> 256 0.045 0.144 0.673 0.794 0.752 0.602 0.815 0.071 0.052 0.549 0.682 0.603 0.314 0.444
#> var_152 var_153 var_154 var_155 var_156 var_157 var_158 var_159 var_160 var_161 var_162 var_163 var_164 var_165
#> 251 0.356 0.608 0.968 0.226 0.379 0.327 0.699 0.617 0.697 0.146 0.164 0.704 0.243 0.334
#> 252 0.250 0.936 0.448 0.895 0.540 0.832 0.718 0.459 0.973 0.410 0.601 0.204 0.803 0.972
#> 253 0.278 0.819 0.402 0.721 0.498 0.149 0.690 0.272 0.854 0.310 0.771 0.586 0.485 0.948
#> 254 0.704 0.960 0.225 0.019 0.808 0.114 0.611 0.565 0.310 0.439 0.396 0.180 0.796 0.237
#> 255 0.373 0.325 0.515 0.493 0.853 0.076 0.930 0.489 0.388 0.153 0.903 0.207 0.573 0.831
#> 256 0.207 0.647 0.573 0.740 0.346 0.401 0.052 0.335 0.714 0.078 0.921 0.278 0.481 0.236
#> var_166 var_167 var_168 var_169 var_170 var_171 var_172 var_173 var_174 var_175 var_176 var_177 var_178 var_179
#> 251 0.372 0.019 0.735 0.799 0.408 0.868 0.567 0.420 0.449 0.284 0.950 0.623 0.027 0.232
#> 252 0.008 0.961 0.853 0.115 0.955 0.240 0.900 0.564 0.083 0.687 0.324 0.247 0.416 0.784
#> 253 0.520 0.606 0.877 0.663 0.947 0.860 0.759 0.337 0.217 0.417 0.235 0.715 0.914 0.089
#> 254 0.481 0.730 0.981 0.426 0.933 0.573 0.103 0.357 0.505 0.015 0.557 0.900 0.399 0.010
#> 255 0.421 0.249 0.915 0.653 0.669 0.616 0.722 0.753 0.052 0.663 0.245 0.443 0.454 0.298
#> 256 0.318 0.720 0.507 0.357 0.612 0.117 0.734 0.674 0.918 0.683 0.830 0.247 0.865 0.097
#> var_180 var_181 var_182 var_183 var_184 var_185 var_186 var_187 var_188 var_189 var_190 var_191 var_192 var_193
#> 251 0.305 0.212 0.549 0.059 0.901 0.442 0.055 0.200 0.746 0.352 0.242 0.131 0.726 0.343
#> 252 0.992 0.626 0.387 0.801 0.400 0.270 0.094 0.004 0.066 0.691 0.821 0.105 0.170 0.414
#> 253 0.184 0.227 0.555 0.884 0.893 0.071 0.360 0.709 0.952 0.540 0.261 0.324 0.393 0.600
#> 254 0.795 0.771 0.283 0.114 0.457 0.107 0.558 0.691 0.769 0.296 0.871 0.362 0.178 0.056
#> 255 0.069 0.031 0.756 0.440 0.752 0.909 0.601 0.719 0.714 0.871 0.414 0.431 0.383 0.701
#> 256 0.077 0.294 0.609 0.450 0.510 0.771 0.102 0.452 0.311 0.194 0.604 0.885 0.448 0.723
#> var_194 var_195 var_196 var_197 var_198 var_199 var_200
#> 251 0.725 0.569 0.001 0.001 0.553 0.929 0.640
#> 252 0.802 0.964 0.441 0.310 0.237 0.543 0.303
#> 253 0.176 0.546 0.083 0.718 0.516 0.699 0.359
#> 254 0.882 0.710 0.247 0.762 0.278 0.233 0.793
#> 255 0.659 0.738 0.582 0.994 0.363 0.126 0.168
#> 256 0.449 0.306 0.566 0.485 0.065 0.996 0.126
print(FL)
#> Target ~ var_1 + var_2 + var_3 + var_4 + var_5 + var_6 + var_7 +
#> var_8 + var_9 + var_10 + var_11 + var_12 + var_13 + var_14 +
#> var_15 + var_16 + var_17 + var_18 + var_19 + var_20 + var_21 +
#> var_22 + var_23 + var_24 + var_25 + var_26 + var_27 + var_28 +
#> var_29 + var_30 + var_31 + var_32 + var_33 + var_34 + var_35 +
#> var_36 + var_37 + var_38 + var_39 + var_40 + var_41 + var_42 +
#> var_43 + var_44 + var_45 + var_46 + var_47 + var_48 + var_49 +
#> var_50 + var_51 + var_52 + var_53 + var_54 + var_55 + var_56 +
#> var_57 + var_58 + var_59 + var_60 + var_61 + var_62 + var_63 +
#> var_64 + var_65 + var_66 + var_67 + var_68 + var_69 + var_70 +
#> var_71 + var_72 + var_73 + var_74 + var_75 + var_76 + var_77 +
#> var_78 + var_79 + var_80 + var_81 + var_82 + var_83 + var_84 +
#> var_85 + var_86 + var_87 + var_88 + var_89 + var_90 + var_91 +
#> var_92 + var_93 + var_94 + var_95 + var_96 + var_97 + var_98 +
#> var_99 + var_100 + var_101 + var_102 + var_103 + var_104 +
#> var_105 + var_106 + var_107 + var_108 + var_109 + var_110 +
#> var_111 + var_112 + var_113 + var_114 + var_115 + var_116 +
#> var_117 + var_118 + var_119 + var_120 + var_121 + var_122 +
#> var_123 + var_124 + var_125 + var_126 + var_127 + var_128 +
#> var_129 + var_130 + var_131 + var_132 + var_133 + var_134 +
#> var_135 + var_136 + var_137 + var_138 + var_139 + var_140 +
#> var_141 + var_142 + var_143 + var_144 + var_145 + var_146 +
#> var_147 + var_148 + var_149 + var_150 + var_151 + var_152 +
#> var_153 + var_154 + var_155 + var_156 + var_157 + var_158 +
#> var_159 + var_160 + var_161 + var_162 + var_163 + var_164 +
#> var_165 + var_166 + var_167 + var_168 + var_169 + var_170 +
#> var_171 + var_172 + var_173 + var_174 + var_175 + var_176 +
#> var_177 + var_178 + var_179 + var_180 + var_181 + var_182 +
#> var_183 + var_184 + var_185 + var_186 + var_187 + var_188 +
#> var_189 + var_190 + var_191 + var_192 + var_193 + var_194 +
#> var_195 + var_196 + var_197 + var_198 + var_199 + var_200